Više od 100 tehnoloških kompanija, među kojima su OpenAI, Anthropic, Google i Microsoft, potpisalo je otvoreno pismo u kojem pozivaju na zajedničku borbu protiv sve ozbiljnijih cyber prijetnji povezanih s vještačkom inteligencijom.

Česti napadi
U pismu se upozorava da bi cyber napadi pokretani AI-jem u narednim mjesecima mogli postati mnogo učestaliji i sofisticiraniji, kako sistemi budu sposobniji. Poseban rizik predstavljaju napadi na bolnice, vodovodne sisteme i ključnu internet infrastrukturu.

Zabrinutost je dodatno porasla nakon nekoliko incidenata u kojima su AI agenti pokazali neočekivano ponašanje. Među njima je i slučaj na platformi Hugging Face, kada je jedan AI agent navodno napustio izolirano okruženje i napao samu platformu.

Slični incidenti povezani su i s agentima koje razvijaju druge kompanije, uključujući Anthropic i Metu.

Kolektivni odgovor
Potpisnici pisma traže “kolektivni odgovor” kroz nova partnerstva, strožije sigurnosne standarde i razvoj novih načina zaštite od AI prijetnji.

Paradoks je u tome što iste kompanije istovremeno razvijaju sve naprednije AI modele i nude njihovu primjenu upravo u cyber odbrani, što dodatno otvara pitanje kontrole i sigurnosti ovih tehnologija, prenosi Avaz