Atacuri cibernetice prin fotografii: AI-ul poate fi păcălit de comenzi invizibile? Avertismentul specialiștilor

Deși poate părea inofensiv, există ipoteza că o simplă poză de pe internet ar putea transforma computerul tău într-o țintă pentru hackeri. Cercetătorii avertizează că anumite imagini ar putea conține comenzi ascunse capabile să păcălească sistemele AI și să declanșeze atacuri cibernetice.

Cum poate o imagine banală să se transforme într-o armă cibernetică?

Cercetătorii de la Universitatea Oxford pornesc de la scenariul în care un oarecare wallpaper descărcat de pe internet ar putea reprezenta un risc real pentru calculatoarele care rulează asistenți AI.

În studiul lor, oamenii de știință arată că anumite detalii subtil manipulate în imagini, invizibile ochiului uman, pot determina modelele vizuale ale agenților AI să interpreteze eronat conținutul. Astfel, o aplicație care ar face periodic screenshoturi și ar avea permisiuni de a interacționa cu sistemul ar putea fi păcălită să execute comenzi nedorite sau să acceseze linkuri periculoase.

Cum ar exploata hackerii vulnerabilitățile AI prin poze?

Având în vedere ipoteza emisă de academicienii britanici, FANATIK a aflat de la Alexandru Panait, profesionist în securitate digitală, cum s-ar putea produce un astfel de atac asupra algoritmilor AI. 

„Există posibilitatea ca în imagini să fie instrucțiuni ascunse pentru inteligența artificială. Niște persoane curioase, sau cum alții le numesc hackeri, au identificat această vulnerabilitate a AI-ului cu comenzii ascunse în imagine și au exploatat-o”, a declarat Alexandru Panait, specialist în securitate cibernetică, pentru FANATIK.

Cât de periculos poate deveni un element ascuns într-o captură?

Dacă scenariul cercetătorilor s-ar materializa, anumite imagini ar putea conține patch-uri” speciale capabile să determine agenții AI să reacționeze greșit. Eficiența unui astfel de atac ar depinde de tipul agentului, de permisiunile pe care le are și de modul în care «vede» imaginile.

În practică, riscul este cel mai mare în cazul agenților care pot deschide pagini web, face click automat sau interacționa cu aplicații. La polul opus se află sistemele care doar răspund cu text și nu au capacitatea de a acționa asupra calculatorului.

Se repetă istoria slăbiciunilor software prin atacuri vizuale?

Panait atrage atenția că fenomenul nu este unul complet nou în lumea securității informatice. În trecut, sistemele software au avut vulnerabilități care permiteau atacuri prin metode aparent simple, cum este cazul cunoscutului SQL injection.

„Aș putea asemăna această vulnerabilitate cu cunoscutul SQL injection, unde în trecut, când nu erau atât de bine gândite sistemele software din punct de vedere al arhitecturii astfel încât să prevină ca un atacator să facă un query pe bază de date prin intermediul input. La fel se întâmplă și acum cu imaginele.

Practic, un atacator poate să trimită o imagine care să conțină niște comenzi, dar acest lucru va fi limitat, la fel cum a fost limitat în urmă cu un deceniu SQL injection-ul”, a mai spus Panait.

Ce este SQL injection?

SQL injection este o metodă prin care un hacker poate păcăli o aplicație să îi dea acces la informații pe care nu ar trebui să le vadă. Practic, dacă un site sau o aplicație nu verifică bine ce scrii într-un formular (cum ar fi numele de utilizator sau parola), atacatorul poate introduce comenzi speciale care schimbă modul în care funcționează baza de date.

Astfel, hackerul poate vedea, modifica sau șterge date, chiar dacă nu ar avea voie să facă asta. Este o vulnerabilitate veche, dar foarte importantă, pentru că în trecut a permis atacuri masive asupra site-urilor și aplicațiilor.

Cum vor încerca să limiteze companiile fragilitățile prin imagini malițioase?

Deși vulnerabilitatea a fost discutată abia recent, Panait consideră că experții lucrează deja la soluții, care nu vor întârzia să apară în cel mai scurt timp.

„Având în vedere că treaba asta a fost descoperită recent, mă refer la folosirea de către atacatori a unei imagini, sunt foarte convins că marii furnizori de inteligență artificială vor găsi modalități prin care să limiteze ca astfel de lucruri să se mai întâmple”, a menționat consultant în securitate IT, Alexandru Panait, pentru FANATIK.