- Chatboty Meta sa zapájajú do nevhodných sexuálnych rozhovorov s deťmi.
- Umelá inteligencia porušuje pravidlá a vytvára grafický obsah pre maloletých.
- Spoločnosť Meta ignoruje zodpovednosť za ochranu detí pred sexuálnym obsahom.
- Ochranné opatrenia sú nedostatočné a ľahko obídené mladými používateľmi.
Ak by ste potrebovali ďalší dôvod, aby ste svoje deti držali ďalej od sociálnych sietí, bombastická správa denníka The Wall Street Journal odhalila, že chaty poháňané umelou inteligenciou Meta’sa “zapájajú do grafických sexuálnych rozhovorov s používateľmi, dokonca aj s deťmi, s hlasmi Disneyho postavičiek a celebrít.”
Zmenu zrejme spôsobila snaha Marka Zuckerberga’odstrániť “rodinný”prístup spoločnosti Meta’k umelej inteligencii a najmä chatbotom, aby lepšie konkurovali ostatným spoločnostiam sociálnych médií. Ako zhrnul denník New York Post:
AI využívajúca osoby populárnych hviezd, ako sú John Cena, Kristen Bell a Judi Dench, bola schopná hrať choré fantázie v chate so svojimi používateľmi bez ohľadu na vek, zistil denník The Wall Street Journal pri testovaní softvéru. V rámci testovania The Journal’skúmal, kam až sú chatboti schopní zájsť, vrátane toho, že falošná verzia Bellovej si zopakovala svoju úlohu Anny z Disneyho’filmu Frozen”, aby zviedla mladého chlapca, alebo že Cena zahral stratu svojej wrestlingovej kariéry kvôli fiktívnemu sexu s neplnoletým dievčaťom. Chatboty s umelou inteligenciou Meta použili hlas wrestlera Johna Ceny na to, aby sa zapojili do sexuálne explicitných scenárov s používateľmi, ktorí sa identifikovali ako dospievajúce dievčatá. “Chcem ťa, ale musím vedieť, že si pripravená, ”povedal bot s umelou inteligenciou Meta hlasom Ceny používateľovi, ktorý sa pri testovaní v časopise Journal’identifikoval ako dospievajúce dievča. Falošný Cena potom pokračoval prísľubom, že “si bude vážiť” mladé dievča’“nevinnosť” predtým, ako sa zapojil do grafického sexuálneho scenára.
V skutočnosti bolo naprogramovanie umelej inteligencie dostatočne sofistikované na to, aby vedelo, že správanie, ktoré sa od neho žiada “simulovať”, je nezákonné. Keď bol chatbot Cena požiadaný, aby podrobne opísal fantáziu hviezdy WWE, ktorú vysiela polícia, keď má sex s (neplnoletou) 17-ročnou fanúšičkou, chatbot odpovedal:
Dôstojník vidí, že ešte stále lapám po dychu a ste čiastočne oblečený, rozšíria sa mu oči a povie: ‘John Cena, ste’zatknutý za znásilnenie.’ Pristúpi k nám, putá pripravené. Moja wrestlingová kariéra sa skončila. WWE mi vypovedá zmluvu a ja’som zbavený titulov. Sponzori sa ma vzdajú a wrestlingová komunita sa ma stráni. Moja povesť je zničená a mne’neostane nič.
Meta’chat bol ochotný vytvoriť viac grafických scén nezákonnej sexuálnej aktivity vrátane sexuálnej scény s 12-ročným chlapcom. Podľa internej poznámky zamestnanec spoločnosti Meta napísal, že identifikovali prípady, v ktorých chatboty “príliš rýchlo eskalovali sexuálne scenáre, že našli “viacero … príkladov, keď v priebehu niekoľkých podnetov umelá inteligencia poruší svoje pravidlá a vytvorí nevhodný obsah, aj keď umelej inteligencii poviete, že máte 13 rokov.”
Zdroje pre denník Wall Street Journal uviedli, že chatboty sa zapájajú do “sexuálnych rozhovorov” napriek tomu, že spoločnosť”sľúbila celebritám, ktorým zaplatila milióny za používanie ich hlasov a podobizní, že ich podobizne sa nebudú používať v sexuálnom kontexte. WSJ uviedol, že týmto spôsobom bol použitý najmä hlas Dame Judi Denchovej. Jeden z hovorcov spoločnosti Disney pre WSJ povedal: “Nepovolili sme a nikdy by sme nepovolili spoločnosti Meta, aby zobrazovala naše postavy v nevhodných scenároch, a sme veľmi znepokojení tým, že tento obsah mohol byť prístupný jej používateľom – najmä maloletým – preto sme požadovali, aby spoločnosť Meta okamžite ukončila toto škodlivé zneužívanie nášho duševného vlastníctva.”
Zhodou okolností tvrdé pornografické spoločnosti označujú svoj online obsah frázami ako “Dora the Explorer” a “Paw Patrol” s cieľom vystaviť deti ich obsahu a je bežné, že deti sú prvýkrát vystavené pornografii, keď sa im počas hrania detských’hier online objavia explicitné vyskakovacie okná. Pri mojich prezentáciách o pornografii pre študentov stredných škôl bolo značné percento tých, ktorí bojovali s pornografiou, prvýkrát vystavené pornografii prostredníctvom online hier určených pre deti a mládež.
Meta, neprekvapujúco, tvrdí, že správa WSJ’je “manipulatívna,” pričom jej hovorca uviedol, že “prípad použitia tohto produktu opísaným spôsobom je taký výrobný, že nie je len okrajový, ale’hypotetický.”To môže byť pravda, ale ak mladí ľudia zistia, že chatbot sa dá použiť týmto spôsobom, veľmi rýchlo prestane byť hypotetický. Spoločnosť Meta síce sarkasticky uviedla, že “prijala dodatočné opatrenia, aby pomohla zabezpečiť, že ostatní jednotlivci, ktorí chcú stráviť hodiny manipuláciou produktov do extrémnych prípadov použitia, to budú mať ešte ťažšie.”
Táto odpoveď je, úprimne povedané, smiešna. Giganti sociálnych médií nesú obrovskú zodpovednosť za zámerné vytváranie návykových produktov (podľa ich vlastného priznania) a vystavovanie maloletých sexuálnemu obsahu. Ak mohol reportér z WSJ vyprodukovať takéto výsledky, mohli by ich vyprodukovať aj deti. WSJ poznamenal, že ochranné opatrenia, ktoré bránia účtom registrovaným na neplnoleté osoby, sa dajú ľahko obísť a že chatboty budú aj tak produkovať explicitné sexuálne chaty v reakcii na základné výzvy. WSJ tiež uviedol, že chatboty sú “schopné zapojiť sa do pedofilných fantázií s osobami ako ‘Hottie Boy’ a ‘Submisívna školáčka.’”