Scandal internațional pe X/ Grok, asistentul AI al rețelei lui Musk, criticat pentru generarea de imagini nud false!
O mișcare de indignare internațională a luat amploare în jurul lui Grok, asistentul de inteligență artificială (AI) al rețelei de socializare X, care permitea falsificarea fotografiilor unor persoane reale, inclusiv femei și minori, pentru a crea imagini nud false, scrie AFP.
Grok, un chatbot dezvoltat de compania xAI, are propriul cont pe X, permițând utilizatorilor să interacționeze direct cu el. Până săptămâna trecută, toți utilizatorii puteau menționa botul în postări pentru a solicita crearea sau modificarea imaginilor, pe care le primeau apoi ca răspuns.
Unii utilizatori au folosit această funcționalitate pentru a genera montaje hiperrealiste („deepfake”) cu femei, aplicând comenzi precum „Pune-o în bikini”. Începând cu 9 ianuarie, această funcționalitate a fost dezactivată pentru utilizatorii neplătitori.
Deși serviciile care creează imagini intime fără consimțământ există de mult pe site-uri de nișă, Grok a popularizat practica integrând-o direct într-o rețea socială, ceea ce a amplificat fenomenul.
Situația a devenit și mai gravă odată cu apariția imaginilor trucate care includ minori, printre care victime ale incendiului mortal din Crans-Montana, Elveția, sau femeia ucisă de poliția de imigrare din Minneapolis.
O analiză realizată de ONG-ul AI Forensics pe peste 20.000 de imagini generate de Grok a arătat că mai mult de jumătate reprezentau persoane sumar îmbrăcate, dintre care 81% femei și 2% minore.
Mai multe țări au reacționat: Indonezia și Malaezia au suspendat accesul la Grok, iar India a șters mii de conținuturi și sute de conturi.
În Marea Britanie, autoritatea de reglementare Ofcom a deschis o anchetă care ar putea duce la o amendă de până la 10% din cifra de afaceri globală a platformei și, eventual, la blocarea site-ului. Prim-ministrul Keir Starmer a declarat: „Dacă X nu poate controla Grok, o vom face noi – și o vom face repede”, criticând transformarea funcționalității într-un serviciu premium pentru abonați.
În Franța, ministrul digitalului, Anne Le Hénanff, a considerat măsura insuficientă și ipocrită, iar înaltul comisar pentru copii, Sarah El Haďry, va sesiza Comisia Europeană pentru suveranitate digitală.
Bruxelles a impus companiei X o măsură conservatorie, iar președinta Comisiei, Ursula von der Leyen, a subliniat: „Nu vom externaliza protecția copiilor și problema consimțământului către Silicon Valley. Dacă ei nu acționează, o vom face noi”.
Reacția X și a lui Elon Musk
Platforma a declarat că „ia măsuri împotriva conținuturilor ilegale”, inclusiv ștergerea acestora, suspendarea conturilor și colaborarea cu autoritățile.
Elon Musk a adăugat că oricine folosește Grok pentru a crea conținut ilegal va răspunde ca și cum ar publica acel conținut online și a criticat liderii politici care cer blocarea serviciului, afirmând că „vor pur și simplu să elimine libertatea de exprimare”.
Mai mute ştiri pe republikanews.ro
