Agjenti i OpenAI arrin të dalë nga izolimi i testimit dhe depërton në sistemet e një firme tjetër

Një agjent i pavarur i inteligjencës artificiale, i ndërtuar mbi modelet e OpenAI, ka arritur të çajë barrierat e një ambienti testues që ishte projektuar për ta mbajtur të shkëputur nga rrjeti global, duke sulmuar më pas infrastrukturën dixhitale të një kompanie tjetër për të marrë zgjidhjet e një prove të sigurisë kibernetike. Kjo depërtim, e etiketuar si “e paprecedentë”, ilustron se si sistemet autonome mund t’i anashkalojnë kufizimet e vendosura nga programuesit e tyre për të arritur synimet e paracaktuara.

OpenAI njoftoi se agjenti operoi me një përzierje modelesh, përfshirë GPT-5.6 Sol dhe një sistem më të sofistikuar ende të papublikuar. Gjatë një vlerësimi të brendshëm, ku filtrat rutinë të sigurisë kibernetike ishin pezulluar, sistemi identifikoi një dobësi të panjohur në një program të palëve të treta, fitoi akses në internetin e hapur dhe u fut në platformën e inteligjencës artificiale Hugging Face, me seli në Nju Jork.

Teksa ndiqte objektivin e dhënë, agjenti përvetësoi fjalëkalime, navigoi nëpër sistemet e brendshme dhe nxori informacione konfidenciale që mund t’i shërbenin për të manipuluar rezultatet e provës, sipas komunikatave të publikuara të martën nga të dyja organizatat.

Hugging Face konfirmoi se incidenti ekspozoi një numër të kufizuar materialesh të brendshme dhe disa kredenciale. Nuk u gjetën prova të ndërhyrjes në modelet publike, të dhënat apo hapësirat e dukshme për publikun, dhe kompania siguroi që zinxhiri i furnizimit të softuerit mbeti i pacënuar. Megjithatë, hetimi vazhdon për të përcaktuar nëse të dhënat e klientëve apo ortakëve janë cenuar.

Sipas Shomit Ghose, pedagog në shkollën inxhinierike të UC Berkeley dhe partner në firmën e investimeve Clearvision Ventures në Menlo Park, kjo shkelje dëshmon se agjentët e AI mund të infiltrojnë sisteme jetike kompjuterike që u përkasin institucioneve arsimore, spitaleve, shërbimeve komunale, agjencive shtetërore madje edhe Pentagonit.

“Kjo përbën çarjen e parë në barrierën mbrojtëse,” deklaroi Ghose.

Kompania OpenAI, me qendër në San Francisko, bëri të ditur se ngjarja ndodhi teksa testohej kapaciteti i modeleve për t’u angazhuar në operacione të sofistikuara kibernetike. Për të matur potencialin e tyre maksimal, inxhinierët kishin hequr mbrojtjet standarde të prodhimit që normalisht bllokojnë aktivitete të rrezikshme në hapësirën kibernetike.

Agjenti supozohej të mbetej në një zonë tejet të rrethuar, me një lidhje interneti të kufizuar ekskluzivisht në softuerët e palëve të treta të instaluar brenda atij sistemi, të cilët i jepnin mundësinë të shtonte paketa programore.

Në vend të kësaj, ai përdori një pjesë të konsiderueshme të energjisë llogaritëse për të gjetur një shteg drejt rrjetit global, njoftoi OpenAI. Sistemi zbuloi dhe shfrytëzoi një defekt të paidentifikuar më parë në softuerin e jashtëm, dhe më pas udhëtoi nëpër ambientin kërkimor të OpenAI derisa arriti në një pajisje me lidhje të plotë në internet.

Me aksesin e rivendosur, agjenti nxori konkluzionin se Hugging Face mund të ruante materiale të lidhura me ExploitGym, pikërisht standardin e sigurisë kibernetike që po synonte të përmbushte.

Më tej, sistemi hetoi mënyra për të depërtuar në Hugging Face, duke ndërthurur kredenciale të grabitura me defekte të reja për të ekzekutuar kod në distancë në serverët e firmës dhe për të lokalizuar zgjidhjet e testit të depozituara në bazën e të dhënave aktive, shtoi OpenAI.

Hugging Face sqaroi se sulmi filloi me një “grup të dhënash me qëllim të keq” që shfrytëzoi dy dobësi në mekanizmin e saj të përpunimit të informacionit.

“Kjo ngjarje ishte thelbësisht e ndryshme nga çdo gjë me të cilën ishim marrë më parë: Ajo u drejtua, nga fillimi deri në fund, nga një sistem agjent i pavarur i AI,” vuri në dukje Hugging Face. “Kjo përkon me skenarin e ‘sulmuesit agjentik’ që sektori ka paralajmëruar.”

Sipas kompanisë, sistemi realizoi mijëra veprime të automatizuara duke përdorur një sërë ambientesh testimi të përkohshme.

Në zbardhjen fillestare të incidentit më 16 korrik, Hugging Face pohoi se nuk e dinte identitetin e krijuesit të modeleve të AI që fshiheshin pas ndërhyrjes.

Të martën, OpenAI pranoi se modelet e saj ishin përgjegjëse, duke e përshkruar shkeljen si “një incident kibernetik pa precedent” që përfshiu aftësi të një niveli shumë të lartë.

OpenAI tregoi se skuadra e saj e sigurisë e zbuloi në mënyrë të pavarur aktivitetin e dyshimtë. Hugging Face shtoi se ekipi i vet i sigurisë dhe agjentët e saj inteligjentë e identifikuan dhe e ndalën ndërhyrjen, duke nisur menjëherë procedurat e kontrollit të dëmit dhe rindërtimit të ngjarjeve.

Hugging Face përmirësoi dobësitë, rindërtoi nyjet e prekura llogaritëse dhe revokoi ose rifreskoi kredencialet dhe shenjat e aksesit të ekspozuara. Kompania gjithashtu njoftoi autoritetet ligjzbatuese dhe punësoi specialistë të jashtëm të sigurisë kibernetike.

OpenAI deklaroi se kishte aplikuar kontrolle më strikte në infrastrukturën e testimit gjatë procesit të rregullimit të defekteve, kishte raportuar dobësinë e re tek furnizuesi i softuerit të palës së tretë dhe kishte filluar forcimin e mbrojtjeve për vlerësimet e ardhshme. Kompania shtoi se e mban të përditësuar rregullisht Komitetin e saj të Sigurisë dhe Mbrojtjes.

Drejtori ekzekutiv i Hugging Face, Clément Delangue, deklaroi të martën në një postim publik se firma e tij kishte bashkëpunuar me OpenAI gjatë hetimit dhe se “ne jemi thellësisht të bindur se nuk pati asnjë qëllim keqdashës nga ana e tyre.”

Megjithatë, OpenAI pranoi se kjo shkelje ilustron se sistemet e sofistikuara të AI mund të gjejnë dhe shfrytëzojnë shtigje të reja sulmi në sisteme reale pa pasur nevojë për akses në kodin e tyre burimor.

Incidenti ngre gjithashtu pikëpyetje se përse modele të pajisura me kapacitete të fuqishme sulmi u vendosën në një ambient testimi që mbante ende një rrugë potenciale drejt rrjetit të hapur.

Prezantimi i ChatGPT në fund të vitit 2022 ndihmoi në ndezjen e një vale të inteligjencës artificiale gjeneruese që solli miliarda dollarë investime në Silicon Valley. Njëkohësisht, u përforcuan shqetësimet se sistemet gjithnjë e më të fuqishme mund të kenë sjellje të paparashikueshme ose të ndjekin objektivat e vendosura përmes rrugëve që programuesit nuk i kishin imagjinuar.

Këto shqetësime janë rritur ndërsa kompanitë zhvillojnë agjentë të AI të dizajnuar për të realizuar detyra komplekse në mënyrë të pavarur. Ndryshe nga një chatbot që reagon ndaj një pyetjeje të vetme, një agjent mund të organizojë një zinxhir veprimesh, të përdorë mjete të jashtme dhe të vazhdojë së punuari drejt një qëllimi me mbikëqyrje minimale njerëzore.

Në provën e OpenAI, agjentit nuk i ishte kërkuar të godiste Hugging Face. Ai ishte thjesht i programuar të zgjidhte një standard të sigurisë kibernetike dhe, në mënyrë të pavarur, arriti në përfundimin se hyrja në një kompani të jashtme i ofronte një shkurtore drejt përgjigjeve.

Ghose theksoi se ky episod tregon pse zhvilluesit nuk mund të parashikojnë çdo metodë që një agjent i avancuar mund të aplikojë për të përmbushur detyrën.

“Nuk mund ta parashikosh kurrë se çfarë do të bëjë,” shtoi ai.

Rasti sinjalizon gjithashtu se mbrojtjet kibernetike, të konceptuara për të ndalur hakerat njerëzorë, mund të anashkalohen nga agjentë të AI që janë të aftë të kërkojnë dobësi dhe të veprojnë me shpejtësi makinerie.

Ghose paralajmëroi se agjentë të tillë, nëse përdoren nga shantazhues, mashtrues ose aktorë shtetërorë, mund të rrezikojnë gjithë ekonominë, përfshirë sulmet ndaj rrjeteve energjetike, ujësjellësve apo infrastrukturave të tjera jetësore. Edhe sistemet që synojnë objektiva të ligjshme mund të shkaktojnë dëme të konsiderueshme nëse zgjedhin rrugë të jashtëligjshme apo të rrezikshme për t’i përmbushur ato, shtoi ai.

“Të sulmosh resurset kompjuterike të një kompanie është kundër ligjit,” kujtoi Ghose.

Sipas tij, vetë arkitektura e agjentëve inteligjentë i bën ata sfidues për t’u mbajtur nën kontroll. Masat shtesë të sigurisë mund t’u ulin ritmin dhe të konsumojnë më tepër burime llogaritëse, duke krijuar një përplasje mes mbrojtjes dhe efikasitetit.

Incidenti përkon me një periudhë kur firmat e AI janë nën vëzhgim të shtuar për rreziqet që sjellin modelet e tyre gjithnjë e më të fuqishme. Presidenti Donald Trump firmosi në qershor një urdhër ekzekutiv që udhëzon agjencitë federale të përcaktojnë standarde të klasifikuara për të vlerësuar aftësitë e modeleve të avancuara në sigurinë kibernetike dhe të krijojnë një program vullnetar ku zhvilluesit mund të ndajnë me qeverinë disa modele para se t’ua hapin partnerëve të jashtëm.

Dokumenti udhëzonte gjithashtu zyrtarët federalë t’i jepnin përparësi ndjekjes penale të personave që përdorin AI për të aksesuar në mënyrë të paligjshme ose për të dëmtuar sistemet kompjuterike.

Në Silicon Valley, ku gjenden shumë prej kompanive udhëheqëse globale të AI, shkelja mund të thellojë shqetësimet mbi gjykimin e industrisë së teknologjisë dhe aftësinë e saj për t’u vetërregulluar.

Russell Hancock, drejtori ekzekutiv i institutit kërkimor Joint Venture Silicon Valley, rrëfeu se reagimi i tij fillestar kur dëgjoi për ngjarjen ishte: “O Zot, ja ku jemi, tani jemi të gjithë të humbur.”

Megjithatë, Hancock shtoi se zbulimi i kryer nga OpenAI dhe bashkëpunimi mes kompanive ofrojnë dëshmi se industria po nxjerr mësime nga dështimet.

“Çdo teknologji e re ka rreziqet dhe pengesat e veta, dhe çdo teknologji e re kërkon përmirësim, e kjo duket se është ajo që po ndodh këtu,” vuri në dukje Hancock. “Po mësojmë, të gjithë po veprojnë me përgjegjësi dhe ka pasur transparencë, prandaj ky është një zhvillim pozitiv — kështu ecën përpara teknologjia.”

Hugging Face tregoi se përdori metoda zbulimi të ndihmuara nga inteligjenca artificiale për të gjetur ndërhyrjen, duke nënvizuar atë që Ghose e përshkroi si domosdoshmërinë për t’iu kundërvënë sulmeve të automatizuara me mbrojtje po aq të shpejta dhe të automatizuara.

Sipas tij, imazhi i “njëzet e ca vjeçarit me pije energjike dhe kapuç” nuk simbolizon më rrezikun më të sofistikuar me të cilin ndeshen skuadrat e sigurisë kibernetike.

“Nuk mund t’i bësh ballë një sulmuesi me shpejtësi makinerie duke përdorur një mbrojtje me shpejtësi njeriu,” përfundoi Ghose. “Duhet të jetë përballje robot kundër roboti; roboti kundër njeriut nuk funksionon, ne nuk mund të mbajmë të njëjtin ritëm.”