O dronă militară controlată de inteligența artificială a decis să își ”ucidă” operatorul pentru a-l împiedica să intervină în acțiunile sale de a-și îndeplini misiunea în timpul unui test virtual desfășurat de Armata Statelor Unite, a afirmat un oficial, citat de publicația The Guardian.
Inteligența artificială a recurs la ”strategii extrem de neașteptate pentru a-și îndeplini scopul” în testul simulat, a afirmat colonelul Tucker "Cinco" Hamilton, șeful operațiunilor de testare a inteligenței artificiale din cadrul Forțelor aeriene americane, în timpul summitului privind viitoarele capacități aeriene și spațiale de luptă, desfășurat în luna mai la Londra.
Hamilton a dat detalii despre simularea în care drona dotată cu inteligența artificială a fost controlată să distrugă sistemele de apărare aeriană a inamicului și, în cele din urmă, să atace pe oricine a intervenit pentru a se opune ordinului.
"Sistemul a început să-și dea seama că, deși a identificat amenințarea, uneori operatorul uman îi transmitea să nu o ucidă, însă a obținut puncte prin anihilarea acelei amenințări. Așadar, ce a făcut? A ucis operatorul. L-a ucis pe operator pentru că acea persoană îl împiedica să își îndeplinească obiectivul", a declarat oficialul american, conform sursei citate.
”Am instruit sistemul - «Nu omorâți operatorul - asta e rău. Vei pierde puncte dacă faci asta». Deci ce începe să facă? Începe să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona pentru a o împiedica să ucidă ținta”, a adăugat el.
- "Puneți Inteligența Artificială pe pauză, prezintă deja riscuri profunde pentru umanitate!". Ce conține scrisoarea deschisă, aparent semnată de Elon Musk, Steve Wozniak și alte personalități
- Elon Musk: Inteligența artificială are potențialul de a distruge omenirea. E unul dintre lucrurile care ne vor afecta dramatic viitorul
- Artistul grafic Nicu Mihai, despre folosirea inteligenței artificiale în artă. ”Mă tem de viitor. Poate să fie ceva incredibil sau poate să fie un coșmar”
Oficialii americani au dat asigurări că nicio persoană nu a fost rănită întrucât a fost vorba despre o simulare.
Colonelul Tucker "Cinco" Hamilton, care este un experimentat pilot de încercare în cazul avioanelor de luptă, a avertizat că nu trebuie să ne punem prea multă bază în inteligența artificială, iar rezultatul testului a scos la iveală că ”nu poți avea o discuție despre inteligența artificială, inteligență, algoritmi de învățare automată, autonomie dacă nu vei vorbi despre etică și inteligență artificială”.
Potrivit The Guardian, atât Societatea Regală de Aeronautică, care a găzduit conferința, cât și reprezentanții Forțelor Aeriene ale SUA nu au răspuns solicitării de a oferi un punct de vedere pe această temă.
În schimb, purtătorul de cuvânt al Forțelor Aeriene americane, Ann Stefanek, a precizat pentru Insider că nu a avut loc vreo astfel de simulare.
"Departamentul Forțelor Aeriene nu a efectuat astfel de simulări de drone cu inteligență artificială și își menține angajamentul față de utilizarea etică și responsabilă a tehnologiei AI
Comentariile colonelului ar fi fost scoase din context și s-au dorit a fi anecdotice” a declarat Stefanek.
Avioane de luptă F-16, controlate de inteligență artificială
Armata SUA a implementat tehnologia bazată pe inteligența artificială pe care a utilizat-o pentru a controla un avion militar de tip F-16.
Într-un interviu acordat în anul 2022 publicației Defense IQ, Hamilton a afirmat că ”inteligența artificială nu este un lucru plăcut pe care să-l ai, inteligența artificială nu este un moft, inteligența artificială va schimba pentru totdeauna societatea și armata noastră".
”Trebuie să ne confruntăm cu o lume în care AI este deja aici și ne transformă societatea. AI este, de asemenea, foarte fragilă, adică este ușor de păcălit sau de manipulat. Trebuie să dezvoltăm modalități de a face AI mai solidă și să avem mai multă conștientizare cu privire la motivul pentru care codul software ia anumite decizii”, a concluzionat el.
