Anna McAdams vždy pozorne sledovala online život svojej 15-ročnej dcéry Elliston Berry. Bolo teda ťažké vyrovnať sa s tým, čo sa stalo pred 15 mesiacmi v pondelok ráno po návrate domov v Alede v Texase.
Spolužiačka si odfotila fotku z Ellistonovho Instagramu, prešla ju programom umelej inteligencie, ktorý vyzeral, že jej vyzliekol šaty, a potom poslal digitálne upravený obrázok na Snapchat.
„Prišla do našej spálne s plačom, len povedala: ‚Mami, neuveríš, čo sa práve stalo‘,“ povedal McAdams.
Minulý rok ich bolo viac ako 21-tisíc hlboko falošné pornografické videá online — o viac ako 460 % v porovnaní s predchádzajúcim rokom. Manipulovaný obsah je množiace sa na internete, keď webové stránky vytvárajú znepokojujúce tóny – ako jedna služba, ktorá sa pýta: „Máte niekoho, koho sa vyzliecť?“
„Mal som testovanie PSAT a mal som volejbalové zápasy,“ povedal Elliston. „A posledná vec, na ktorú sa musím sústrediť a o ktorú sa musím starať, sú moje falošné akty chodiace po škole. Tieto obrázky boli hore a plávali na Snapchate deväť mesiacov.“
V San Franciscu začala hlavná mestská právna zástupkyňa Yvonne Mereová počuť príbehy podobné tým Ellistonovým – ktoré zasiahli domov.
„Kľudne to mohla byť moja dcéra,“ povedala Mere.
Teraz je tu kancelária prokurátora v San Franciscu hľadám majitelia 16 webových stránok, ktoré vytvárajú „deepfake akty“, kde sa umelá inteligencia používa na premenu neexplicitných fotografií dospelých a detí na pornografiu.
„Tento prípad nie je o technológii. Nie je to o AI. Je to sexuálne zneužívanie,“ povedal Mere.
Týchto 16 stránok malo podľa žaloby 200 miliónov návštev len za prvých šesť mesiacov roka.
Mestský prokurátor David Chiu hovorí, že 16 miest v prípade je len začiatok.
„Vieme o najmenej 90 z týchto webových stránok. Takže toto je veľký vesmír a treba ho nastaviť,“ povedal Chiu.
Texaský republikánsky senátor Ted Cruz sponzoruje ďalší uhol útoku s demokratickou senátorkou za Minnesotu Amy Klochubarovou. a Act Take It Down vyžadovalo by to, aby spoločnosti a webové stránky sociálnych médií odstraňovali nekonsenzuálne pornografické obrázky vytvorené pomocou AI.
„Na akúkoľvek technologickú platformu kladiete zákonnú povinnosť – musíte ju odstrániť a okamžite ju odstrániť,“ povedal Cruz.
Návrh zákona prešiel tento mesiac Senátom a teraz je pripojený k väčšiemu vládny finančný účet čakajú na parlamentné hlasovanie.
Vo vyhlásení hovorca spoločnosti Snap pre CBS News povedal: „Hlboko nám záleží na bezpečnosti a pohode našej komunity. Zdieľanie nahých obrázkov vrátane neplnoletých, či už skutočných alebo vytvorených umelou inteligenciou, je jasným porušením našich Pokynov pre komunitu. Máme účinné mechanizmy na nahlasovanie tohto typu obsahu, a preto nás veľmi teší, keď si vypočujeme príbehy rodín, ktoré mali pocit, že ich obavy zostali na pokoji. Máme politiku nulovej tolerancie pre takýto obsah a ako je uvedené v našej najnovšej správe o transparentnosti, po nahlásení ho rýchlo riešime.“
Elliston hovorí, že sa teraz sústreďuje na súčasnosť a nalieha na Kongres, aby schválil zákon.
„Nemôžem sa vrátiť a urobiť to, čo urobil znova, ale namiesto toho môžem zabrániť tomu, aby sa to stalo iným ľuďom,“ povedal Elliston.
