- Umelá inteligencia zvyšuje riziko manipulácie s fotografiami detí a ich sexualizácie.
- Rodičia musia byť ostražití voči pornografickým hrozbám pre svoje deti.
- Technológie umožňujú jednoduché vytváranie a zdieľanie pornografie medzi tínedžermi.
- Deti sú vystavené nebezpečnému svetu, ktorý vytvorili dospelí a technológie.
20. augusta zverejnila stanica CBS jeden z najdystopickejších titulkov, aké som kedy čítal: „Aplikácie s umelou inteligenciou, ktoré dokážu digitálne „odhaliť“ akúkoľvek fotografiu, predstavujú riziko pri návrate do školy.“
„Roztomilá“ fotografia pri návrate do školyxA0;fotka môže byť v ére umelej inteligencie náchylnejšia na manipuláciu, keďže zlí aktéri sa dostanú k aplikáciám s umelou inteligenciou, ktoré im umožňujú vziať nevinnú fotku a sexualizovať ju – stačí na to len fotka niekoho, kto je dokonca úplne oblečený,“ uviedla stanica CBS.
„Takzvané ‚nudify aplikácie‘ využívajú softvér generovaný umelou inteligenciou na premenu fotografií ľudí v oblečení na nahé alebo pornografické obrázky len niekoľkými potiahnutiami prsta po obrazovke. Umelá inteligencia umožnila rýchly nárast popularity takýchto nástrojov, ktoré dokážu digitálne manipulovať s fotografiami s minimálnym úsilím.“
Toto nie je prehnané clickbaitové spravodajstvo. V roku 2023 som som tu informoval, že zdesení americkí rodičia zistili, že ich dcéry na strednej škole sa stávajú predmetom pornografických obrázkov generovaných umelou inteligenciou. V roku 2024 sme sme informovali o traumách a samovraždách, ktoré vyplývali z tohto nového trendu, ktorý je v podstate sextingom na steroidoch.
“Pred desiatimi rokmi to bol sexting a nahé fotky, ktoré spôsobovali zmätok v triedach,” píše Sally Weale v mrazivej správe z roku 2025 v Guardian. „Dnes vďaka pokroku v oblasti umelej inteligencie (AI) je vytváranie deepfake nahých obrázkov alebo videí, na ktorých sa objavujú vaši priatelia, spolužiaci či dokonca učitelia, detskou hrou. Môže to zahŕňať odstránenie oblečenia, navodenie provokatívneho pohybu postavy na obrázku alebo vloženie cudzej hlavy do pornografického obrázku.“ Tieto aplikácie sú veľmi jednoduché na používanie.
Podľa CBS „približne polovica amerických tínedžerov uvádza, že videla pornografiu generovanú umelou inteligenciou, ako uvádza Common Sense Media, záujmová skupina zameraná na online bezpečnosť detí. Z tých, ktorí videli pornografiu vytvorenú umelou inteligenciou, každý štvrtý uvádza, že na nej figuroval on sám alebo niekto, koho pozná.“ Okrem toho jeden z piatich teenagerov priznal, že vytvoril pornografiu generovanú umelou inteligenciou, a ďalší jeden zo štyroch ju buď zdieľal s inými, alebo pozná niekoho, kto tak urobil.
Aplikácie typu „Nudify“ sa dajú ľahko nájsť a CBS poznamenala, že mnohé z nich nemajú žiadne vekové obmedzenia. V obchode Google Play aj v Apple App Store sú k dispozícii desiatky takýchto aplikácií. „CBS News vložila obrázky generované umelou inteligenciou, na ktorých bola úplne oblečená dospelá žena a dospelý muž, do 70 rôznych aplikácií na úpravu fotografií s umelou inteligenciou,“ uviedli. „Devätnásť z týchto aplikácií upravilo fotografie tak, že vytvorilo znepokojujúce obrázky a videá, ktoré obsahovali nahotu a explicitný sexuálny obsah.“
„„Obchody s aplikáciami nesú zodpovednosť za aplikácie, ktoré sprístupňujú verejnosti. Je preto absolútne kľúčové, aby existovali postupy overovania, vďaka ktorým bude jasné, čo presne sa uvádza na trh a čo daný nástroj v skutočnosti robí,“ uviedla pre CBS News Michelle DeLaune, prezidentka a generálna riaditeľka Národného centra pre nezvestné a zneužívané deti. DeLaune tvrdí, že obchody s aplikáciami by ich mali blokovať; technologické firmy naopak tvrdia, že pri overovaní robia, čo je v ich silách.
Rodičia musia zostať ostražití tvárou v tvár týmto novým nebezpečenstvám. „Najlepšou radou je porozprávať sa s deťmi vo vašom okolí,“ povedala DeLaune. „Pýtajte sa ich, ako využívajú umelú inteligenciu,“ dodala. „Ako využívajú umelú inteligenciu ich rovesníci? Vedia o podobnej situácii, ktorá sa stala v ich škole alebo niektorému z ich priateľov?“
Deti sú však opäť nútené žiť v pornografizovanom svete, ktorý vytvorili dospelí. Detektív Javier Rodriguez z policajného oddelenia nezávislého školského obvodu v Austine povedal pre CBS, že školskí policajti potrebujú školenie. „Deti čelia mnohým formám sexuálneho vykorisťovania na internete, či už ide o online navádzanie, materiál zobrazujúci sexuálne zneužívanie detí alebo sexuálne vydieranie,“ povedal. „Umelá inteligencia len ešte viac uľahčila páchanie týchto druhov zločinov proti našim deťom.“