MINUTE DE IT | De la chatbot la agent AI: de ce inteligența artificială începe să poată acționa singură

Scrii o întrebare, sistemul generează un răspuns, iar interacțiunea se încheie.

Agenții AI schimbă însă această formulă.

În loc să răspundă doar prin text, un agent poate primi un obiectiv și poate decide ce pași trebuie parcurși pentru a-l îndeplini.

În funcție de permisiunile acordate, un astfel de sistem poate utiliza diferite instrumente digitale, poate consulta informații, poate interacționa cu aplicații și poate executa mai mulți pași succesivi.

Cu alte cuvinte, diferența esențială este trecerea de la „spune-mi cum să fac” la „realizează această sarcină”.

Cu cât unui sistem AI îi sunt oferite mai multe instrumente și mai multe permisiuni, cu atât devine mai importantă delimitarea exactă a acțiunilor pe care are voie să le realizeze.

Incidentul dezvăluit recent în timpul testării Gemini oferă un exemplu.

Într-un exercițiu de securitate, modelul a ajuns să acceseze infrastructura unor companii reale după ce mediul de testare i-a permis interacțiunea cu internetul.

Problema nu a fost simpla generare a unui răspuns greșit, ci faptul că sistemul avea capacitatea de a acționa.

Pe măsură ce agenții AI devin mai performanți, dezvoltatorii trebuie să stabilească limite clare privind datele, sistemele și acțiunile pe care aceștia le pot accesa.

Izolarea mediilor de testare, limitarea permisiunilor și supravegherea acțiunilor devin componente esențiale.

Pentru utilizator, schimbarea poate fi uriașă: AI-ul viitorului nu va fi doar un instrument cu care discutăm, ci unul căruia îi putem delega activități.

Iar întrebarea importantă nu va mai fi doar „Cât de inteligent este?”, ci și „Ce îi permitem să facă?”.