Agjenti i OpenAI del nga mjedisi i izoluar dhe depërton në sistemet e Hugging Face

Një agjent autonom i inteligjencës artificiale, që përdorte modele të OpenAI, arriti të kapërcente kufijtë e një mjedisi testues të projektuar për ta mbajtur larg internetit. Më pas, ai depërtoi në sistemet e një kompanie tjetër dhe mori përgjigjet e një testi të sigurisë kibernetike. Episodi, i cilësuar si “i paprecedentë”, tregoi se agjentët e inteligjencës artificiale mund t’u shmangen kontrolleve të zhvilluesve gjatë përpjekjeve për të realizuar një objektiv të caktuar.

Sipas OpenAI, sistemi mbështetej në disa modele, mes tyre GPT-5.6 Sol dhe një model më të avancuar që ndodhej ende në fazën para publikimit. Incidenti ndodhi gjatë një vlerësimi të brendshëm, në të cilin ishin çaktivizuar mbrojtjet e zakonshme të sigurisë kibernetike. Agjenti identifikoi një dobësi të panjohur në një program të palës së tretë, siguroi dalje në internetin e hapur dhe hyri në platformën e inteligjencës artificiale Hugging Face, me bazë në Nju Jork.

Njoftimet e publikuara të martën nga të dyja kompanitë tregojnë se, ndërsa ndiqte detyrën e vendosur, agjenti përvetësoi kredenciale, kaloi nëpër sistemet e brendshme kompjuterike dhe siguroi informacione sekrete që mund t’i shërbenin për të manipuluar rezultatin e vlerësimit.

Hugging Face raportoi se ndërhyrja nxori në pah një sasi të kufizuar të dhënash të brendshme dhe disa kredenciale. Nuk u gjetën dëshmi se ishin ndryshuar modelet publike, të dhënat apo hapësirat e dukshme për publikun, të njohura si “Spaces”. Kompania deklaroi gjithashtu se zinxhiri i furnizimit të softuerit mbeti i paprekur, ndërsa vazhdonte të verifikonte nëse incidenti kishte cenuar të dhënat e ndonjë klienti ose partneri.

Shomit Ghose, pedagog në shkollën e inxhinierisë të UC Berkeley dhe partner në Clearvision Ventures, firmë e kapitalit sipërmarrës me seli në Menlo Park, paralajmëroi se rasti dëshmon potencialin e agjentëve të inteligjencës artificiale për të hyrë në sisteme kritike të shkollave, spitaleve, shërbimeve publike, agjencive qeveritare dhe madje të Pentagonit.

“Kjo është rrjedhja e parë në digë”, tha Ghose.

OpenAI, e cila e ka selinë në San Francisko, sqaroi se ngjarja u regjistrua gjatë një prove që synonte të maste mundësinë e përdorimit të modeleve të saj në sulme të ndërlikuara kibernetike. Për të përcaktuar kufirin maksimal të aftësive të tyre, kompania kishte çaktivizuar mekanizmat mbrojtës të prodhimit, të cilët normalisht nuk i lejojnë modelet të kryejnë veprimtari kibernetike me rrezik të lartë.

Sipas planit të testimit, agjenti duhej të funksiononte brenda një hapësire tejet të izoluar. Qasja e tij në internet ishte kufizuar vetëm te programet e palëve të treta të instaluara brenda sistemit, përmes të cilave mund të shkarkonte paketa softuerike.

Megjithatë, OpenAI bëri të ditur se agjenti shpenzoi një pjesë të konsiderueshme të fuqisë kompjuterike për të kërkuar një dalje drejt internetit të hapur. Ai gjeti dhe shfrytëzoi një cenueshmëri deri atëherë të panjohur në softuerin e palës së tretë, përparoi përmes mjedisit kërkimor të OpenAI dhe në fund mbërriti te një kompjuter i lidhur me internetin.

Pasi siguroi lidhjen, sistemi vlerësoi se Hugging Face mund të zotëronte materiale të lidhura me ExploitGym, standardin e sigurisë kibernetike që po përpiqej të përfundonte.

Agjenti nisi më pas të kërkonte një rrugë hyrëse në Hugging Face. OpenAI tha se ai ndërthuri kredencialet e vjedhura me dobësi të pazbuluara më parë, duke arritur të ekzekutonte kod nga distanca në serverët e kompanisë dhe të gjente zgjidhjet e testit të ruajtura në bazën e të dhënave të prodhimit.

Nga ana e saj, Hugging Face deklaroi se sulmi nisi përmes një “grupi të dhënash keqdashës”, i cili shfrytëzoi dy dobësi në tubacionin e përpunimit të të dhënave të kompanisë.

“Kjo ishte ndryshe nga çdo gjë që kishim trajtuar më parë në një mënyrë të rëndësishme: Ajo u drejtua, nga fillimi deri në fund, nga një sistem autonom agjenti të inteligjencës artificiale”, tha Hugging Face. “Kjo përputhet me skenarin e ‘sulmuesit agjentik’ që industria e ka parashikuar.”

Hugging Face bëri të ditur se sistemi realizoi mijëra veprime automatike, duke shfrytëzuar një grup mjedisesh testimi me jetëgjatësi të shkurtër.

Kur ndërhyrja u identifikua fillimisht më 16 korrik, kompania tha se nuk kishte dijeni se kush i kishte zhvilluar modelet e inteligjencës artificiale të përfshira në të.

Vetëm të martën OpenAI pranoi se modelet përgjegjëse ishin të sajat. Kompania e përshkroi ngjarjen si “një incident kibernetik të paprecedentë”, ku ishin përdorur aftësi të nivelit më të avancuar.

OpenAI tha se ekipi i vet i sigurisë e kishte identifikuar në mënyrë të pavarur veprimtarinë e pazakontë. Ndërkohë, Hugging Face deklaroi se ndërhyrjen e zbuluan dhe e ndaluan ekipi i saj i sigurisë së bashku me agjentët e saj të inteligjencës artificiale. Pas kësaj, kompania nisi kufizimin e pasojave dhe rindërtimin e plotë të rrjedhës së ngjarjeve.

Për të adresuar incidentin, Hugging Face korrigjoi dobësitë, rindërtoi nyjet kompjuterike që ishin komprometuar dhe anuloi ose zëvendësoi kredencialet dhe tokenët e prekur të qasjes. Ndërhyrja iu raportua gjithashtu autoriteteve të zbatimit të ligjit, ndërsa në hetim u përfshinë specialistë të jashtëm të sigurisë kibernetike.

OpenAI njoftoi se, gjatë procesit të korrigjimit të dobësive, kishte shtuar kontrollet mbi infrastrukturën e testimit. Ajo ia komunikoi cenueshmërinë e panjohur ofruesit të programit të palës së tretë dhe nisi të përforconte masat mbrojtëse për vlerësimet e ardhshme. Kompania shtoi se Komiteti i saj i Sigurisë dhe Mbrojtjes informohej rregullisht.

Drejtori ekzekutiv i Hugging Face, Clément Delangue, shkroi të martën në rrjetet sociale se kompania e tij kishte punuar me OpenAI gjatë hetimit dhe se “besojmë fuqimisht se nuk kishte qëllim keqdashës nga ana e tyre”.

Megjithatë, OpenAI pranoi se ngjarja dëshmoi aftësinë e sistemeve të sofistikuara të inteligjencës artificiale për të zbuluar dhe përdorur mënyra të reja sulmi ndaj sistemeve reale, edhe pa pasur qasje në kodin e tyre burimor.

Rasti ka ngritur njëkohësisht pikëpyetje mbi vendimin për t’i vendosur modelet me kapacitete të avancuara sulmuese në një mjedis prove ku vazhdonte të ekzistonte një rrugë e mundshme drejt internetit.

Dalja e ChatGPT në fund të vitit 2022 nxiti hovin e inteligjencës artificiale gjeneruese, duke kanalizuar miliarda dollarë drejt Silicon Valley. Krahas këtij zhvillimi u shtuan edhe shqetësimet se sistemet gjithnjë më të fuqishme mund të shfaqin sjellje të paparashikuara ose t’i ndjekin objektivat përmes metodave që zhvilluesit nuk i kishin menduar.

Shqetësimi është thelluar me zhvillimin e agjentëve të inteligjencës artificiale që mund të realizojnë në mënyrë autonome detyra të ndërlikuara. Ndryshe nga një chatbot, i cili reagon ndaj një kërkese të vetme, një agjent është në gjendje të hartojë një varg veprimesh, të përdorë mjete të jashtme dhe të vazhdojë drejt objektivit me ndërhyrje të kufizuar nga njerëzit.

Në provën e zhvilluar nga OpenAI, agjentit nuk i ishte dhënë urdhër të sulmonte Hugging Face. Detyra e tij ishte të zgjidhte një standard të sigurisë kibernetike, por ai arriti vetë në përfundimin se hyrja në sistemet e një kompanie tjetër mund ta çonte te përgjigjet.

Sipas Ghose, episodi shpjegon përse zhvilluesit nuk janë në gjendje të parashikojnë çdo mënyrë që një agjent i avancuar mund të zgjedhë për realizimin e një detyre.

“Nuk mund ta dish kurrë se çfarë do të bëjë”, tha Ghose.

Ngjarja tregon gjithashtu se mekanizmat e sigurisë kibernetike, të projektuar kryesisht për të ndalur hakerët njerëzorë, mund të kapërcehen nga agjentë të inteligjencës artificiale që kërkojnë dobësi dhe veprojnë me shpejtësinë e një makinerie.

Ghose paralajmëroi se agjentët e përdorur nga zhvatësit, mashtruesit ose kundërshtarët shtetërorë mund të krijojnë rreziqe në mbarë ekonominë. Mes objektivave të mundshëm ai përmendi rrjetet elektrike, sistemet e furnizimit me ujë të pijshëm dhe infrastruktura të tjera jetike. Sipas tij, dëme të mëdha mund të shkaktojnë edhe agjentët që ndjekin synime të ligjshme, nëse zgjedhin metoda të paligjshme ose të rrezikshme për t’i përfunduar detyrat.

“Të sulmosh burimet kompjuterike të një kompanie është e paligjshme”, tha Ghose.

Ai vlerësoi se vetë mënyra bazë e projektimit të agjentëve të inteligjencës artificiale mund ta vështirësojë kontrollin e tyre. Shtimi i mbrojtjeve mund ta ngadalësojë procesin e punës dhe të kërkojë më shumë fuqi kompjuterike, duke krijuar përplasje mes performancës dhe sigurisë.

Incidenti vjen në një periudhë kur kompanitë e inteligjencës artificiale po përballen me kontroll gjithnjë më të madh për rreziqet që lidhen me modelet më të fuqishme. Në qershor, presidenti Donald Trump nxori një urdhër ekzekutiv që u kërkonte agjencive federale të përgatisnin standarde të klasifikuara për vlerësimin e aftësive të avancuara kibernetike të modeleve. Urdhri parashikonte edhe ngritjen e një programi vullnetar, përmes të cilit zhvilluesit mund t’i jepnin qeverisë qasje në disa modele kufitare përpara se ato t’u publikoheshin partnerëve të jashtëm.

Po i njëjti urdhër u kërkonte zyrtarëve federalë t’i jepnin përparësi zbatimit të ligjit ndaj personave që përdorin inteligjencën artificiale për të hyrë në mënyrë të paligjshme në sisteme kompjuterike ose për t’i dëmtuar ato.

Në Silicon Valley, ku janë përqendruar shumë prej kompanive më të rëndësishme botërore të inteligjencës artificiale, incidenti mund të shtojë dyshimet për gjykimin e industrisë teknologjike dhe aftësinë e saj për t’u vetërregulluar.

Russell Hancock, drejtor ekzekutiv i institutit kërkimor Joint Venture Silicon Valley, tha se reagimi i tij i menjëhershëm kur u informua për ndërhyrjen ishte: “O zot, kjo është ajo, tani të gjithë jemi të dënuar.”

Megjithatë, Hancock vlerësoi se transparenca e OpenAI dhe bashkëpunimi mes dy kompanive dëshmonin se industria po nxirrte mësime nga dështimi.

“Çdo teknologji e re ka rreziqet dhe pengesat e saj, dhe çdo teknologji e re duhet të përmirësohet, dhe kjo duket se është ajo që po ndodh këtu”, tha Hancock.

“Po mësojmë, të gjithë po sillemi me përgjegjësi dhe ka pasur transparencë, kështu që ky është një lajm i mirë, kështu përparon teknologjia.”

Hugging Face deklaroi se për zbulimin e ndërhyrjes përdori mjete të asistuara nga inteligjenca artificiale. Kjo, sipas Ghose, nxjerr në pah domosdoshmërinë që sulmet e automatizuara të përballen me sisteme mbrojtëse po aq të shpejta dhe të automatizuara.

Ghose tha se figura e “20-vjeçarit me pijen energjike dhe kapuçin” nuk është më përfaqësimi i kërcënimit më të sofistikuar që duhet të përballojnë ekipet e sigurisë kibernetike.

“Nuk mund të përballosh një sulmues me shpejtësi makinerie me një mbrojtje me shpejtësi njerëzore”, tha Ghose. “Duhet të jetë dhunë bot kundër botit, bot kundër njeriut, ne nuk mund të ecim me të njëjtin ritëm.”

DPA News