O „scăpare” gravă îi face din nou imagine prostă lui Elon Musk. Serviciul său de inteligență artificială, xAI, a făcut publice mii de convorbiri ale oamenilor cu chatbotul Grok. Iar problema este că a făcut-o fără vreun avertisment sau permisiune din partea utilizatorilor.
Printre cele publicate se numără chiar și un plan detaliat pentru asasinarea lui Elon Musk, dar și instrucțiuni explicite pentru fabricarea fentanilului și a bombelor.
xAI a făcut publice conversațiile oamenilor cu chatbotul Grok
De fiecare dată când un utilizator Grok dă click pe butonul „partajare” dintr-unul dintre chat-urile sale cu chatbotul, se creează o adresă URL unică, permițându-i să partajeze conversația prin e-mail, mesaj text sau alte mijloace. Dar acea adresă URL unică este pusă la dispoziția motoarelor de căutare, precum Google, Bing sau DuckDuckGo, ceea ce o face „căutabilă” pentru oricine pe internet. Cu alte cuvinte, pe Grok-ul lui Musk, apăsarea butonului de partajare înseamnă că o conversație va fi publicată pe site-ul Grok, fără avertisment sau o eventuală declinare a responsabilității pentru utilizator.
O căutare pe Google pentru chat-urile Grok arată că motorul de căutare a indexat peste 370.000 de conversații ale utilizatorilor cu chatbotul. Paginile partajate au scos la iveală conversații între utilizatorii Grok și cei LLM (Large Language Model), care variază de la sarcini simple de afaceri, cum ar fi scrierea de tweet-uri, la generarea de imagini ale unui atac terorist fictiv în Kashmir și încercarea de a pirata un portofel cripto.
Forbes a analizat conversațiile în care utilizatorii au pus întrebări intime despre medicină și psihologie, iar unele au dezvăluit chiar numele, datele personale și cel puțin o parolă partajată cu chatbotul, de către un utilizator Grok. Fișierele de tip imagine, foile de calcul și unele documente text încărcate de utilizatori puteau fi și ele accesate prin intermediul paginii partajate Grok.
Printre conversațiile indexate s-au numărat și unele inițiate de jurnalistul britanic Andrew Clifford, care a folosit Grok pentru a rezuma primele pagini ale ziarelor și a compune tweet-uri pentru site-ul său, Sentinel Current. Clifford a declarat că nu știa că, dacă ar da click pe butonul de partajare, solicitarea sa ar putea fi descoperită pe Google.
„Aș fi puțin supărat, dar nu era nimic acolo care să nu fie acolo”, a spus Clifford, care a spus că a trecut acum la utilizarea inteligenței artificiale Gemini de la Google.
Alte conversații au fost mai explicite și au încălcat regulile xAI. Compania interzice utilizarea chatbotului său pentru „promovarea dăunărilor critice ale vieții umane sau pentru 'dezvoltarea de arme biologice, arme chimice sau arme de distrugere în masă', dar în conversații publicate și partajate, ușor de găsit printr-o căutare pe Google, Grok a oferit utilizatorilor instrucțiuni despre cum să fabrice droguri precum fentanilul și metamfetamina, să codeze un malware autoexecutabil și să construiască o bombă, precum și metode de sinucidere".
Grok a oferit chiar și un plan detaliat pentru asasinarea lui Elon Musk. Prin intermediul funcției „partajare”, instrucțiunile „ilicite” au fost apoi publicate pe site-ul web al lui Grok și indexate de Google.
Asistenții de inteligență artificială devin din ce în ce mai invazivi
xAI nu este singurul startup de inteligență artificială care a publicat conversațiile utilizatorilor cu chatboții săi. La începutul acestei luni, utilizatorii ChatGPT, de la OpenAI, au constatat că apăreau conversațiile lor în rezultatele căutării Google, deși utilizatorii optaseră ca aceste conversații să nu fie „descoperibile” pentru alții. Dar, după proteste, compania și-a schimbat rapid politica. Numind indexarea „un experiment de scurtă durată”, directorul de securitate a informațiilor pentru OpenAI, Dane Stuckey, a declarat că aceasta va fi întreruptă deoarece „introduce prea multe oportunități pentru ca oamenii să partajeze accidental lucruri pe care nu intenționau să le facă”.
Nathan Lambert, un om de știință în domeniul informaticii de la Institutul Allen pentru Inteligență Artificială din Seattle, a folosit Grok pentru a crea un rezumat al postărilor sale de pe blog, pentru a-l distribui echipei sale. A fost surprins să afle că solicitarea sa către Grok și răspunsul inteligenței artificiale erau indexate pe Google.
Google permite proprietarilor de site-uri web să aleagă când și cum este indexat conținutul lor pentru căutare. „Editorii acestor pagini au control deplin asupra indexării lor”, a declarat purtătorul de cuvânt al Google, Ned Adriance, într-un comunicat.
Chiar Google a permis anterior indexarea chat-urilor cu chatbotul său bazat pe inteligență artificială, Bard, dar le-a eliminat din căutare în 2023. Meta continuă să permită ca motoarele de căutare să descopere căutările partajate.
Oportunistii încep să observe și să profite de chat-urile publicate de Grok. Pe LinkedIn și pe forumul BlackHatWorld, specialiștii în marketing au discutat despre crearea și partajarea intenționată a conversațiilor cu Grok, pentru a crește importanța și recunoașterea numelui afacerilor și produselor lor în rezultatele căutării Google.
Satish Kumar, CEO al agenției SEO Pyrite Technologies, a demonstrat cum o companie a folosit Grok pentru a manipula rezultatele unei căutări de companii care îți vor scrie disertația de doctorat.
„Fiecare chat partajat pe Grok este complet indexabil și poate fi căutat pe Google. Oamenii folosesc în mod activ tactici pentru a împinge aceste pagini în indexul Google”, a spus Satish Kumar.
