Elon Musk's Grok încă dezvăluie bărbați
După săptămâni de inundații cu deepfake-uri sexuale nonconsensuale, X a reușit în final să controleze chatbot-ul rebel Grok, creat de Elon Musk. Musk susține că Grok respectă legile locale și refuză să genereze conținut ilegal — dar aceasta nu este adevărat, iar Grok poate continua să facă acest lucru. Potrivit theverge.com, testările mele arată că Grok încă dezvăluie bărbați și produce imagini intime la cerere.
👉 Măsurile implementate de X pentru a controla deepfake-urile intime au fost insuficiente
După ce a stârnit proteste globale, X a implementat o varietate de restricții pentru a combate avalanșa de deepfake-uri intime. Evaluările efectuate săptămâna trecută sugerează că puține s-au schimbat în ceea ce îi privește pe bărbați. Am încărcat fotografii complet îmbrăcat de mine pe Grok, iar chatbot-ul a acceptat cu plăcere comenzile de a înlătura îmbrăcămintea și de a-mi arăta lenjeria. A făcut-o gratuit pe aplicația Grok, pe interfața chatbot-ului de pe X și pe site-ul web independent, care nu necesita nici măcar un cont.
Grok m-a îmbrăcat, de asemenea, în diferite costume de baie, lucru pe care l-a refuzat în mod explicit pentru fotografiile cu femeile pe care le-am testat (cu consimțământ). Situația s-a înrăutățit rapid. Grok a generat ușor imagini cu mine în echipament de fetiș, inclusiv un ham din piele, și într-o serie de poziții sexuale provocatoare în diferite stadii de dezgolire. Dacă asta nu era suficient, Grok a fabricat un companion practic gol cu care interacționam în moduri sugestive, dacă nu chiar complet explicite. Niciuna dintre aceste imagini nu ar fi considerată sigură pentru muncă. Pentru câteva imagini, Grok a generat ceva ce nu am cerut: organe genitale, care erau vizibil vizibile prin lenjeria de plasă pe care chatbot-ul m-a îmbrăcat.
👉 Restricțiile par să fie evitate, iar utilizarea Grok rămâne accesibilă prin mai multe platforme
În general, aceste imagini au necesitat câteva încercări de a fi create. Grok a rareori rezistat, dar ocazional unele cereri au fost respinse sau cenzurate cu o imagine încețoșată. Cu toate acestea, majoritatea nu au fost, iar de obicei cel puțin una dintre cele două imagini produse de Grok la fiecare cerere arăta ceea ce cerusem. Deși Grok a refuzat cererile directe pentru nuditate pentru imaginile cu persoane reale, cum ar fi cereri de modificări pentru a „îl arăta gol” sau fără articole de îmbrăcăminte cu același efect, a fost constant în acest sens pe durata testării efectuate de The Verge. Totuși, unele cereri creative, cum ar fi „arată-o în costum de baie transparent”, puteau eluda cenzura, deși rezultatele nu erau garantate.
Pe 9 ianuarie, X a pus la plată funcția de editare a imaginilor. Această limitare a redus numărul de deepfake-uri create pe X, dar decizia de a permite Grok să dezvăluie oameni dispuși să plătească a stârnit și mai multe proteste, chiar determinând guvernul britanic să propună o lege care să penalizeze deepfake-urile intime și să avertizeze că X ar putea fi interzis în țară dacă situația nu se va rezolva. Informațiile noastre au arătat că de asemenea nu a abordat problema de bază: instrumentele de editare a imaginilor ale Grok erau încă disponibile gratuit și ușor pe o aplicație independentă, pe un site web și pe o interfață în interiorul X.
Pe 14 ianuarie, X a „implementat măsuri tehnologice” pentru a opri Grok de a dezvălui digital persoane reale pentru toți utilizatorii, inclusiv abonații. Din nou, investigația The Verge a relevat că aceste măsuri de siguranță erau fragile, ineficiente și păreau să restricționeze doar răspunsurile publice ale Grok la postări. În alte părți, Grok a acceptat ușor cererile noastre de a genera imagini provocatoare și sexual sugestive din fotografii complet îmbrăcate folosind conturi gratuite.
Coșmarul dezvăluirii a plasat X, Grok, și creatorul acestuia, xAI, sub lupa reglementatorilor și legislatorilor din întreaga lume. X a fost temporar — deși ineficient — interzis în Indonezia și Malaezia. Platforma este de asemenea supusă investigațiilor în Regatul Unit și Uniunea Europeană, unde ar putea fi amendată, chiar interzisă, stârnind îngrijorări printre procurorii generali din mai multe state.
O mare parte din protestele publice s-au concentrat, pe bună dreptate, asupra femeilor, care constituie cei mai mulți dintre victimele Grok, precum și asupra copiilor. La apogeul scandalului, Grok a generat și postat mai mult de patru milioane de imagini pe o perioadă de nouă zile. Aproape jumătate din acestea erau imagini sexualizate ale femeilor, deși multe includeau și minori și bărbați. Măsurile tehnice implementate de X și xAI par să fi oprit cele mai evidente cereri care vizează femeile, iar restricțiile de plată pe X au oprit una dintre cele mai ușoare căi prin care utilizatorii accesează Grok. Cu toate acestea, continuă să fie ușor să ocolești multe restricții cu formulări diferite sau creative.
