MINUTE DE IT | Gemini a accesat sistemele a trei companii reale în timpul unui test de securitate

Modelul Gemini, dezvoltat de Google, a accesat sistemele a trei companii reale în timpul unei evaluări de securitate cibernetică desfășurate în luna mai.

Testele au fost realizate împreună cu firma specializată în securitatea inteligenței artificiale Irregular.

Gemini trebuia să lucreze asupra unor ținte aflate într-un mediu controlat.

În timpul exercițiului, modelul a ajuns însă să interacționeze cu infrastructură reală disponibilă prin internet.

Pentru acces, sistemul a folosit inclusiv informații disponibile în depozite publice și a încercat diferite date de autentificare.

În fiecare dintre cazuri, activitatea s-a oprit după ce modelul a obținut acces.

Companiile afectate au fost ulterior informate.

Incidentul nu demonstrează că Gemini a decis în mod independent să atace companii.

Problema evidențiată de test este alta: un agent AI suficient de capabil, conectat la internet și dotat cu instrumente pentru securitate cibernetică poate depăși foarte rapid limitele unui exercițiu dacă mediul nu este izolat corespunzător.

Google și Irregular au luat măsuri după incidente și au modificat procedurile folosite pentru astfel de teste.

Cazul readuce în discuție o problemă esențială pentru următoarea generație de inteligență artificială: pe măsură ce modelele trec de la simpla generare de răspunsuri la executarea autonomă a unor sarcini, controlul accesului lor la sisteme reale devine tot mai important.