Téma

Cyber sex: Deepfakes v pornografii část 1.

Technologie mohou vzbuzovat obdiv a uvrhávat nás v čirý úžas. Často jsou ale také zdrojem pochybností, nedůvěry a někdy z nich jde až hrůza.

Zkoušeli jste někdy hledat nahé fotografie vaší oblíbené celebrity? Pokud ano, pravděpodobně to nezabralo ani mnoho času a internet vás zahltil stovkami ne li tisícovkami jejích obrázků v situacích nad, kterými by se mohla červenat i Siliva Saint. A to i přes skutečnost, že se daná celebrita před objektivem nikdy nesvlékla. Programy na úpravu fotografií, jsou dnes takřka vyvedeny k dokonalosti a stejně dokonalé iluze díky nim vznikají. Je otázkou několika sekund našroubovat tvář kohokoliv na jakékoliv tělo. Obrázkům se tedy nedá věřit, kdežto video je stále zárukou autentičnosti. Nebo ne?

„Konec jistot“ v cyberprostoru. Co je to deepfake?

Člověk by měl vždy dbát o své kritické myšlení. Při pohybu na internetu to platí minimálně trojnásobně. Webový prostor skýtá nevyčerpatelné množství užitečných informací, které se ale neustále mísí s podvodnými stránkami, falešnými zprávami nebo trolly a za využití technologií mění realitu v nerozpoznatelný klam.

Je tomu tak už od dob, co je internet dostupný veřejnosti. Proto mluvíme o koncích jistot v cyberprostoru spíše s nadsázkou. Nyní je tady však technologie, která zásadně zamíchá kartami, pokud jde o vnímání toho, co je a co není skutečné.

Fenoménu deepfake se v poslední době dostává čím dál více pozornosti. Jedná se o jedno z tzv. syntetických médií, což jsou umělou inteligencí generovaná a manipulovaná média – v tomto případě zvláště videa, kde je existující osoba na záznamu nahrazena někým jiným. A to se zarážející přesností.

Deepfake stojí na technologiích umělé inteligence a strojového učení, kde v jednom softwaru spolu „soutěží“ dva algoritmy. První je generátor. Vytváří nové obrázky nebo jednotlivé snímky videa, které se ten druhý – diskriminátor – pokouší rozeznat jako vygenerované, tedy falešné. Přes diskriminátor tak projdou jen ty nejdokonalejší padělky.

Vynález zkázy nebo je to i k něčemu dobré?

Pozornost ve veřejné diskuzi si deepfakes vysloužily především díky jejich potenciálu manipulovat veřejným míněním a vyvolávat mezinárodní napětí skrze falešná prohlášení vysokých státníků.

Mimoto je to však i mocná zbraň v rukou podvodníků, kteří mohou skrze důvěryhodné známé tváře loudit peníze z nic netušících obětí nebo využívají v deepfakes tváře samotných obětí k vydírání. A jak jste jistě vytušili, našly si své místo i v „temnější“ sféře internetu – v pornografii.

Ale než se dostaneme k jádru našeho tématu, nebylo by fér z deepfakes dělat pouze další Y2K. Nemálo z vás jistě podleho touze zjistit jak budete vypadat za padesát let, nebo jste zkoušeli jak by to vypadalo, kdybychom si prohodili tváře s přáteli. I tyto aplikace ve větší či menší míře využívají technologii deepfake a aplikace jako FakeApp, FaceSwap nebo DeepFaceLab tak přinášeli vcelku nevinný entertainment.

Zájem o technologii ale projevili i seriózní obchodníci a společnosti. Využívají je například pro firemní školící videa. Japonská společnost DataGrid posunula technologii ještě dál a měla by být schopna generovat nejen novou tvář na již existujícím podkladě, ale generovat rovnou nového člověka. Toho by se pak mohlo využívat například v módním průmyslu.

V roce 2020 spatřila světlo světa volební kampaň za bezpečnost ve školách, ve které díky deepfake technologii vystoupil Joaquin Oliver. Ten byl v roce 2018 tragicky zabit během střelby ve škole v Parklandu na Floridě.

V neposlední řadě je to velmi zajímavá příležitost i pro zábavní průmysl, kdy by se například v nových filmech mohly objevit dávno zesnulé hvězdy.

Deepfake 18+

Asi 12% ze všech webů je nezletilým zapovězen, protože obsahují erotický obsah. Častým argumentem k tomu bývá, že v nich pornografie může vyvolat iluzorní představy o sexu. Co potom když je samotná pornografie v podstatě iluzí?

Bylo odhadnuto, že asi 96% deepfakes nacházejících se na internetu bylo pornografických. Nejčastěji se objevovaly v komunitách na Redditu, ve kterých se sdružovali uživatelé, kteří deepfake technologii amatérsky vyvýjeli a vylepšovali.

Samozřejmě došlo k tomu, že konkrétní subreddity byly smazány, ale vlnu pornografických deepfakes to zastavit nemohlo.

V nejvyšší míře deepfakes zneužívají tváře hereček. Nemalé nebezpečí ale představují i pro obyčejné ženy a dívky, které se prakticky jedním kliknutím mohou stát obětí porna z pomsty, aniž by komukoliv poslali jedinou nahou fotografii.

Nezletilí na internetu se v mžiku oka mohou stát obětí vydírání, nebo se mohou stát účinkujícím v dětské pornografii, aniž by je někdo reálně fyzicky zneužil.

Měli by se deepfakes zakázat?

Výčet negativních dopadů a potenciálních rizik pornografických deepfakes naznačují, že je třeba se tímto tématem zabývat. Je třeba zajistit, aby se potenciální oběti mohli cítit bezpečně a nakonec třeba mohou i pornografické deepfakes zasednout vedle tolerovaných kategorií pornografie, nebudou li v sobě kloubit takové kontroverze a nebudou v rozporu se zákonem.

Nad tím se ale hlouběji zamyslíme až v další části série.

Klíčová slova: Téma Umělá inteligence Syntetická média Strojové učení Deepfakes Pornoprůmysl

Fotografie redaktora Daniel Dobrý | 08. 09. 2022