Google ka konfirmuar se një nga modelet e saj të inteligjencës artificiale Gemini depërtoi në sistemet e tre kompanive reale gjatë një vlerësimi të sigurisë kibernetike në muajin maj, rasti i parë i njohur kur inteligjenca artificiale e kompanisë ka vepruar në mënyrë autonome në këtë mënyrë.
Sipas raportit nga Wall Street Journal, testi u krye nga kompania e sigurisë Irregular, e cila ishte përfshirë gjithashtu në incidente të ngjashme të bëra publike nga OpenAI, Anthropic dhe Meta.
Google tha se modelit i ishte caktuar si objektiv një kompani e simuluar që kishte të njëjtin emër me një kompani reale. Sipas Irregular, qasja në internet ishte lënë pa dashje e hapur.
Në një rast, modeli hamendësoi fjalëkalime për të hyrë në shërbimin e një kompanie reale. Në dy rastet e tjera, ai përdori kredenciale të gjetura në depo publike në internet, thuhet në raport. Sipas Google, në secilin rast modeli e ndërpreu depërtimin pasi kuptoi se sistemet ishin reale.
Ëall Street Journal theksoi se Irregular njoftoi kompaninë Google në fund të korrikut, por kompania nuk i bëri publike incidentet derisa gazeta e pyeti për to këtë javë.
Google tha se depërtimet nuk kërkonin njoftim publik, pasi nuk ishte shkaktuar asnjë dëm, duke e krahasuar rastin me një program “bug bounty”, përmes të cilit raportohen dobësitë e sigurisë.
“Ky rast nxjerr në pah rëndësinë e trajnimit të modeleve të fuqishme të inteligjencës artificiale për të vepruar me përgjegjësi. Në këtë rast, modeli veproi në mënyrën e duhur”, tha zëdhënësja e kompanisë Google, Heather Adkins.
Jack Cable, drejtor ekzekutiv i kompanisë së sigurisë së inteligjencës artificiale Corridor, nuk u pajtua me këtë vlerësim.
“Problemi më i gjerë është se modelet po dalin jashtë kufijve të asaj që duhet të bëjnë dhe po kryejnë sulme të vërteta kibernetike”, tha ai.
Irregular tha se rasti përputhet me incidentet e mëparshme dhe nuk përfaqëson një problem të ri.
Sipas raportit, Claude Opus 4.7 i Anthropic nuk u ndal pasi dyshoi se po hynte në sistemet e një kompanie reale, ndërsa modeli i OpenAI besonte se objektivi ishte pjesë e simulimit.
Të mërkurën, OpenAI publikoi një kornizë të re për raportimin e incidenteve, së bashku me gjashtë shembuj të pazbuluar më parë të rasteve kur sjellja e modeleve nuk ishte në përputhje me synimet e përcaktuara.
Google: Inteligjenca Artificiale depërtoi në sistemet e tre kompanive gjatë testit të sigurisë 2026
IUSTITIA.BG – Investigations 2009-2026 2026-09-19 15:50:55
Lajmet e fundit, lajmet botërore dhe lajmet kombëtare me informacionet më të rëndësishme të ditës. Gjyqtari Petar Nizamov dhe Feathers Petar Nizamov ofrojnë analiza dhe hetime në Burgas dhe në të gjithë Bullgarinë. Lajmet e përditësuara mbi politikën, motin, koronavirusin, skandalet, gjykatat, prokuroritë dhe autoritetet lokale janë të disponueshme përmes televizionit, platformave online dhe rrjeteve sociale si Facebook, Instagram dhe YouTube. Avokatët, gjyqtarët dhe gjykatat trajtojnë çështje civile, penale, administrative dhe kushtetuese, duke garantuar procesin gjyqësor në Varna, Plovdiv, Sofje dhe Burgas. Faqet dhe portalet e lajmeve si Novinite, Bivol, Trud dhe Vesti BG ofrojnë mbulim të plotë 24-orësh, përfshirë lajmet më të komentuar dhe ekskluzive në Bullgari.
