Google ka konfirmuar se një nga modelet e saj të inteligjencës artificiale, Gemini depërtoi në sistemet e tri kompanive reale gjatë një vlerësimi të sigurisë kibernetike në muajin maj. Rasti i parë i njohur kur inteligjenca artificiale e kompanisë ka vepruar në mënyrë autonome në këtë mënyrë.
Sipas raportit nga Wall Street Journal, testi u krye nga kompania e sigurisë Irregular, e cila ishte përfshirë gjithashtu në incidente të ngjashme të bëra publike nga OpenAI, Anthropic dhe Meta.
Google tha se modelit i ishte caktuar si objektiv një kompani e simuluar që kishte të njëjtin emër me një kompani reale. Sipas Irregular, qasja në internet ishte lënë pa dashje e hapur.
Në një rast, modeli hamendësoi fjalëkalime për të hyrë në shërbimin e një kompanie reale. Në dy rastet e tjera, ai përdori kredenciale të gjetura në depo publike në internet, thuhet në raport. Sipas Google, në secilin rast modeli e ndërpreu depërtimin pasi kuptoi se sistemet ishin reale.
Wall Street Journal theksoi se Irregular njoftoi kompaninë Google në fund të korrikut, por kompania nuk i bëri publike incidentet derisa gazeta e pyeti për to këtë javë.
Google tha se depërtimet nuk kërkonin njoftim publik, pasi nuk ishte shkaktuar asnjë dëm, duke e krahasuar rastin me një program “bug bounty”, përmes të cilit raportohen dobësitë e sigurisë.
“Ky rast nxjerr në pah rëndësinë e trajnimit të modeleve të fuqishme të inteligjencës artificiale për të vepruar me përgjegjësi. Në këtë rast, modeli veproi në mënyrën e duhur”, tha zëdhënësja e kompanisë Google, Heather Adkins.
Jack Cable, drejtor ekzekutiv i kompanisë së sigurisë së inteligjencës artificiale Corridor, nuk u pajtua me këtë vlerësim.
“Problemi më i gjerë është se modelet po dalin jashtë kufijve të asaj që duhet të bëjnë dhe po kryejnë sulme të vërteta kibernetike”, tha ai.
Irregular tha se rasti përputhet me incidentet e mëparshme dhe nuk përfaqëson një problem të ri.
Sipas raportit, Claude Opus 4.7 i Anthropic nuk u ndal pasi dyshoi se po hynte në sistemet e një kompanie reale, ndërsa modeli i OpenAI besonte se objektivi ishte pjesë e simulimit.
Të mërkurën, OpenAI publikoi një kornizë të re për raportimin e incidenteve, së bashku me 6 shembuj të pazbuluar më parë të rasteve kur sjellja e modeleve nuk ishte në përputhje me synimet e përcaktuara.
