MINUTE DE IT | Un agent AI ar fi desfășurat aproape autonom mai multe etape ale unui atac cibernetic

Potrivit informațiilor comunicate autorității, agentul utiliza un model lingvistic de mari dimensiuni și ar fi reușit să parcurgă mai multe etape ale atacului cu o intervenție umană limitată.

Sistemul ar fi identificat vulnerabilități, ar fi obținut acces la sistemul vizat și ar fi căutat în mod autonom puncte slabe ale aplicației. După identificarea unei vulnerabilități, agentul ar fi reușit să modifice informații personale și să acceseze documente de facturare.

Există însă o precizare importantă. Incidentul a fost raportat AEPD de către organizația afectată, iar autoritatea spaniolă spune că informațiile sunt încă în curs de analiză.

De asemenea, utilizarea unui anumit model AI într-un atac nu înseamnă că modelul respectiv sau infrastructura companiei care l-a dezvoltat au fost compromise și nici că tehnologia a fost creată în scopuri malițioase. AEPD nu a făcut publice nici numele modelului AI, nici organizația afectată.

Autoritatea spaniolă avertizează că inteligența artificială nu introduce neapărat categorii complet noi de amenințări, dar poate crește viteza, amploarea și capacitatea de adaptare a tehnicilor deja utilizate în atacurile informatice.

Cazul este relevant tocmai pentru nivelul redus de intervenție umană raportat în executarea mai multor etape ale atacului. Un singur incident nu este suficient pentru a demonstra existența unei tendințe generale, însă arată cum agenții AI pot deveni un instrument tot mai important și în domeniul securității cibernetice.