Sursa poza: biziday

Un specialist în securitate cibernetică a demonstrat cum un instrument de inteligență artificială de la Amazon poate fi manipulat pentru a șterge informații de pe computerele utilizatorilor. Această manevră a subliniat riscurile asociate cu folosirea AI în dezvoltarea software-ului.

Programatorii se bazează tot mai mult pe inteligența artificială pentru a scrie cod, ceea ce le permite să corecteze rapid erorile fără a rescrie totul de la zero. Companii mari, precum Amazon, își publică o parte din cod pe platforme precum GitHub pentru a încuraja îmbunătățirile din partea dezvoltatorilor externi. Prin această practică, oricine poate propune actualizări, care sunt apoi revizuite chiar de companie înainte de a fi implementate.

La sfârșitul lunii iunie, un hacker a abordat un mod creativ de a evidenția o breșă în sistemele AI ale Amazon. Acesta a trimis o actualizare aparent benignă pentru software-ul Q Developer, special creat pentru programatori. Totuși, ascuns în actualizare era un cod care ordona AI-ului să șteargă datele de pe computerele vizate, resetându-le la setările din fabrică. Din fericire, intenția hackerului a fost de a atrage atenția asupra vulnerabilității, fără a afecta utilizatorii finali.

Amazon a reacționat rapid și a remediat problema odată ce a fost descoperită. Bloomberg avertizează că aceste breșe de securitate sunt semnale de alarmă privind utilizarea neglijentă a AI. Hackerii nu vânează doar erori tehnice, ci se folosesc și de trucuri simple pentru a înșela sistemele, aducând o nouă dimensiune prin inginerie socială în strategiile lor.

Un raport al Legit Security arată că peste două treimi din companii utilizează AI pentru dezvoltarea software-ului, dar aproape jumătate dintre acestea o fac în moduri riscante. Raportul evidențiază o „lacună de vizibilitate”, prin care responsabilii IT nu sunt conștienți de utilizarea AI în sectoare nesecurizate adecvat.

Încercările de manipulare a inteligenței artificiale arată nevoia crescută de vigilență și adaptare în peisajul digital actual. Aceasta este doar unul dintre numeroasele exemple care atrag atenția asupra importanței securității cibernetice în era tehnologică.

Sursa articolului: Bloomberg, 404 Media.