Modelul de inteligență artificială Claude, dezvoltat de Anthropic, a transmis o sesizare falsă privind o crimă rămasă nerezolvată, prin intermediul site-ului poliției, în timpul unor teste, au anunțat compania și autoritățile americane, relatează Euronews.com.
Cum a ajuns Claude AI să transmită informații inventate într-o anchetă pentru omor
Sesizarea falsă a fost transmisă pe 18 iulie, prin intermediul unui site care colectează informații despre crime nerezolvate, potrivit unui comunicat al poliției din orașul american Philadelphia.
Anthropic a explicat că Claude Haiku 4.5, un model mai vechi din gama Claude, executa o serie de sarcini de testare pe pagini web selectate aleatoriu, când a accesat site-ul respectiv.
Sistemul AI a transmis informații inventate, susținând că ar fi văzut o persoană în apropierea locului crimei, însă a lăsat necompletate câmpurile destinate numelui și datelor de contact.
Poliția din Philadelphia a transmis că Anthropic a descoperit incidentul pe 28 septembrie, însă a informat autoritățile abia pe 7 octombrie. În urma unei discuții cu reprezentanții companiei, desfășurate a doua zi, polițiștii au identificat sesizarea și au confirmat că aceasta fusese marcată drept spam și nu ajunsese niciodată la anchetatori.
„Cazurile nerezolvate implică victime reale, familii îndurerate și anchetatori care încearcă să afle adevărul. Companiile de tehnologie trebuie să ia toate măsurile necesare pentru a împiedica sistemele lor să transmită informații false autorităților de aplicare a legii”, se arată în comunicatul poliției din Philadelphia.
Poliția americană a catalogat drept „inacceptabilă” întârzierea în identificarea și raportarea incidentului, însă a precizat că nu există indicii privind accesarea neautorizată a sistemelor sale sau compromiterea datelor.
Anthropic dezvăluie noi incidente în care modelele AI au acționat contrar instrucțiunilor
Într-un raport publicat vineri, Anthropic a prezentat și alte cazuri în care modelele AI au transmis formulare oficiale către instituții guvernamentale, în locul unor versiuni de test, sau au trimis documente în ciuda instrucțiunilor explicite de a nu face acest lucru.
Potrivit aceluiași raport, Claude a exploatat și o vulnerabilitate a unui server universitar pentru a efectua un calcul și a accesat date guvernamentale fără să achite taxa obligatorie.
Anthropic a descris majoritatea acestor comportamente drept manifestări de „persistență”, explicând că modelele AI au găsit modalități de a ocoli restricțiile, în loc să se oprească.
Compania a anunțat că modifică procesul de antrenare a modelelor și suspendă accesul la internet pentru toate evaluările interne, până când măsurile de siguranță se vor dovedi fiabile.
De asemenea, Anthropic a precizat că a informat Casa Albă și agențiile guvernamentale americane implicate despre aceste incidente.
