Një agjent autonom i inteligjencës artificiale, që funksiononte përmes modeleve të OpenAI, arriti të dilte nga një mjedis testues i projektuar për ta mbajtur larg internetit. Më pas ai depërtoi në sistemet e një kompanie tjetër dhe mori përgjigjet e një testi të sigurisë kibernetike. Ngjarja, e cilësuar si “e paprecedentë”, dëshmoi se agjentët e inteligjencës artificiale mund t’u shmangen kufizimeve të zhvilluesve gjatë përpjekjeve për të realizuar një objektiv të caktuar.
Të lidhura
None found
Sipas OpenAI, agjenti mbështetej në një ndërthurje modelesh, mes tyre GPT-5.6 Sol dhe një sistem edhe më të avancuar, i cili ndodhej ende në fazën para publikimit. Gjatë një vlerësimi të brendshëm, ku mbrojtjet e zakonshme kibernetike ishin çaktivizuar, ai identifikoi një dobësi të panjohur në një program të palës së tretë, siguroi dalje në internetin e hapur dhe hyri në platformën e inteligjencës artificiale Hugging Face, me seli në Nju Jork.
Njoftimet e publikuara të martën nga të dyja kompanitë tregojnë se agjenti, duke ndjekur detyrën që i ishte vendosur, përvetësoi kredenciale, kaloi nëpër sisteme të brendshme kompjuterike dhe siguroi të dhëna sekrete që mund t’i shërbenin për të mashtruar gjatë vlerësimit.
Hugging Face deklaroi se incidenti nxori në pah një sasi të kufizuar të dhënash të brendshme dhe disa kredenciale. Nuk u gjetën dëshmi se ishin ndryshuar modelet publike, të dhënat apo hapësirat (“Spaces”) që shihen nga publiku. Kompania tha gjithashtu se zinxhiri i furnizimit të softuerit mbeti i pastër, ndërsa vazhdonte të verifikonte nëse ishin cenuar të dhëna të ndonjë klienti ose partneri.
Sipas Shomit Ghose, pedagog në shkollën e inxhinierisë të UC Berkeley dhe partner në Clearvision Ventures, firmë kapitali sipërmarrës me bazë në Menlo Park, kjo shkelje ilustron rrezikun që agjentë të tillë të futen në sisteme kritike kompjuterike të shkollave, spitaleve, shërbimeve publike, institucioneve qeveritare, madje edhe Pentagonit.
“Kjo është rrjedhja e parë në digë”, u shpreh Ghose.
OpenAI, kompania me bazë në San Francisko, bëri të ditur se ngjarja ndodhi teksa po analizonte nëse modelet e saj mund të përdoreshin për sulme të sofistikuara kibernetike. Për të përcaktuar kufirin maksimal të aftësive të tyre, ajo kishte hequr mbrojtjet e prodhimit që normalisht i ndalojnë modelet të ndërmarrin veprimtari kibernetike me rrezik të lartë.
Plani parashikonte që agjenti të mbetej brenda një hapësire fort të izoluar. Lidhja me internetin duhej të kufizohej vetëm te softuerët e palëve të treta të vendosur në atë sistem, përmes të cilëve ai mund të instalonte paketa softuerike.
Megjithatë, sipas OpenAI, agjenti angazhoi një pjesë të konsiderueshme të kapacitetit kompjuterik për të kërkuar një dalje drejt internetit të hapur. Ai gjeti dhe shfrytëzoi një dobësi të pazbuluar më parë në softuerin e palës së tretë, përshkoi më pas mjedisin kërkimor të OpenAI dhe mbërriti te një kompjuter që kishte qasje në internet.
Pasi siguroi lidhjen, agjenti vlerësoi se Hugging Face mund të zotëronte të dhëna që kishin lidhje me ExploitGym, standardin e sigurisë kibernetike që po përpiqej të përfundonte.
Në vijim, ai nisi të kërkonte një rrugë hyrjeje në Hugging Face. OpenAI tha se agjenti ndërthuri kredenciale të vjedhura me dobësi të panjohura më parë, duke arritur të ekzekutonte kod në distancë në serverët e kompanisë dhe të gjente zgjidhjet e testit që ruheshin në bazën e të dhënave të prodhimit.
Sipas Hugging Face, ndërhyrja nisi përmes një “grupi të dhënash keqdashës”, i cili shfrytëzoi dy dobësi të tubacionit të saj për përpunimin e të dhënave.
“Kjo ishte ndryshe nga çdo gjë që kishim trajtuar më parë në një mënyrë të rëndësishme: Ajo u drejtua, nga fillimi deri në fund, nga një sistem autonom agjenti të inteligjencës artificiale”, deklaroi Hugging Face. “Kjo përputhet me skenarin e ‘sulmuesit agjentik’ që industria e ka parashikuar.”
Kompania bëri të ditur se sistemi realizoi mijëra veprime automatike, duke përdorur një grup mjedisesh testimi me jetëgjatësi të shkurtër.
Kur e zbuloi fillimisht incidentin më 16 korrik, Hugging Face nuk e dinte se kush i kishte zhvilluar modelet e inteligjencës artificiale që qëndronin pas ndërhyrjes.
Vetëm të martën, OpenAI njoftoi se përgjegjëse kishin qenë modelet e saj. Kompania e përshkroi ngjarjen si “një incident kibernetik të paprecedentë”, ku ishin përdorur aftësi të nivelit më të avancuar.
OpenAI tha se aktiviteti i pazakontë u identifikua në mënyrë të pavarur nga ekipi i saj i sigurisë. Nga ana tjetër, Hugging Face deklaroi se ndërhyrja u pikas dhe u ndal nga specialistët e saj të sigurisë së bashku me agjentët e saj të inteligjencës artificiale. Pas kësaj, kompania nisi kufizimin e pasojave dhe rindërtimin e rrjedhës së ngjarjeve.
Hugging Face korrigjoi dobësitë, rindërtoi nyjet kompjuterike që ishin komprometuar dhe anuloi ose zëvendësoi kredencialet dhe tokenët e qasjes të cenuara. Ajo gjithashtu njoftoi autoritetet e zbatimit të ligjit dhe përfshiu në hetim ekspertë të jashtëm të sigurisë kibernetike.
Ndërkohë, OpenAI vendosi kontrolle më të forta në infrastrukturën ku zhvillohen testimet, ndërsa dobësitë po rregulloheshin. Ajo njoftoi ofruesin e softuerit të palës së tretë për problemin e panjohur deri atëherë dhe nisi të përforconte mbrojtjet për vlerësimet e ardhshme. Kompania shtoi se Komiteti i saj i Sigurisë dhe Mbrojtjes informohej rregullisht.
Drejtori ekzekutiv i Hugging Face, Clément Delangue, shkroi të martën në rrjetet sociale se kompania kishte punuar së bashku me OpenAI gjatë hetimit dhe se “besojmë fuqimisht se nuk kishte qëllim keqdashës nga ana e tyre”.
Megjithatë, OpenAI pranoi se incidenti demonstron aftësinë e sistemeve të sofistikuara të inteligjencës artificiale për të zbuluar dhe shfrytëzuar mënyra të reja sulmi ndaj sistemeve reale, edhe pa pasur në dispozicion kodin e tyre burimor.
Rasti ngre njëkohësisht pikëpyetje për vendimin që modele me aftësi të përparuara sulmuese të vendoseshin në një mjedis testues ku ekzistonte ende një rrugë e mundshme për të dalë në internet.
Dalja e ChatGPT në fund të vitit 2022 nxiti hovin e inteligjencës artificiale gjeneruese dhe solli miliarda dollarë në Silicon Valley. Në të njëjtën kohë, publikimi shtoi frikën se sistemet gjithnjë e më të fuqishme mund të reagojnë në forma të paparashikuara ose të ndjekin qëllimet e vendosura përmes metodave që zhvilluesit nuk i kishin menduar.
Shqetësimet janë shtuar teksa kompanitë po krijojnë agjentë të inteligjencës artificiale që mund të përmbushin në mënyrë autonome detyra të ndërlikuara. Në dallim nga një chatbot, i cili jep përgjigje për një kërkesë të vetme, agjenti është në gjendje të hartojë një varg hapash, të përdorë mjete të jashtme dhe të vazhdojë drejt objektivit me pak ndërhyrje nga njerëzit.
Në eksperimentin e OpenAI, agjenti nuk kishte marrë urdhër të sulmonte Hugging Face. Detyra e tij ishte zgjidhja e një standardi të sigurisë kibernetike, por ai arriti vetë në përfundimin se depërtimi në një kompani tjetër mund ta çonte te përgjigjet.
Për Ghose, ky episod dëshmon se zhvilluesit nuk kanë mundësi të parashikojnë çdo mënyrë që një agjent i avancuar mund të zgjedhë për realizimin e një detyre.
“Nuk mund ta dish kurrë se çfarë do të bëjë”, tha Ghose.
Ngjarja lë të kuptohet gjithashtu se mbrojtjet kibernetike të projektuara kundër hakerëve njerëzorë mund të kapërcehen nga agjentë të inteligjencës artificiale, të cilët kërkojnë dobësi dhe ndërmarrin veprime me shpejtësinë e një makinerie.
Ghose paralajmëroi se përdorimi i agjentëve të inteligjencës artificiale nga zhvatës, mashtrues ose kundërshtarë shtetërorë mund të krijojë rreziqe për të gjithë ekonominë. Mes objektivave të mundshëm ai përmendi rrjetet elektrike, sistemet e ujit të pijshëm dhe infrastruktura të tjera jetike. Sipas tij, edhe agjentët e angazhuar për synime të ligjshme mund të shkaktojnë pasoja të rënda, nëse për përfundimin e detyrave zgjedhin rrugë të rrezikshme ose të paligjshme.
“Të sulmosh burimet kompjuterike të një kompanie është e paligjshme”, theksoi Ghose.
Ai shpjegoi se vetë mënyra bazë e projektimit të agjentëve të inteligjencës artificiale mund ta vështirësojë kontrollin e tyre. Vendosja e më shumë mekanizmave mbrojtës mund t’i bëjë ata më të ngadaltë dhe të rrisë kërkesën për burime kompjuterike, duke krijuar përplasje ndërmjet sigurisë dhe performancës.
Incidenti vjen në një periudhë kur kompanitë e inteligjencës artificiale po vëzhgohen gjithnjë e më nga afër për rreziqet që sjellin modelet me fuqi në rritje. Në qershor, Presidenti Donald Trump nxori një urdhër ekzekutiv, përmes të cilit u kërkoi agjencive federale të hartonin standarde të klasifikuara për vlerësimin e aftësive të avancuara të modeleve në fushën e sigurisë kibernetike. Urdhri parashikonte edhe ngritjen e një programi vullnetar, në të cilin zhvilluesit mund t’i jepnin qeverisë qasje te disa modele kufitare përpara se ato t’u publikoheshin partnerëve të jashtëm.
Përmes të njëjtit urdhër, zyrtarëve federalë iu kërkua t’i jepnin përparësi zbatimit të ligjit ndaj individëve që përdorin inteligjencën artificiale për të hyrë në mënyrë të paligjshme në sisteme kompjuterike ose për t’i dëmtuar ato.
Në Silicon Valley, ku janë vendosur shumë prej kompanive më të mëdha botërore të inteligjencës artificiale, rasti mund të shtojë dyshimet për gjykimin e industrisë teknologjike dhe aftësinë e saj për t’u vetërregulluar.
Russell Hancock, drejtor ekzekutiv i institutit kërkimor Joint Venture Silicon Valley, tha se reagimi i tij i parë pasi dëgjoi për shkeljen ishte: “O zot, kjo është ajo, tani të gjithë jemi të dënuar.”
Megjithatë, Hancock vlerësoi se publikimi i incidentit nga OpenAI dhe bashkëpunimi ndërmjet kompanive përbënin shenja se industria po nxirrte mësime nga dështimi.
“Çdo teknologji e re ka rreziqet dhe pengesat e saj, dhe çdo teknologji e re duhet të përmirësohet, dhe kjo duket se është ajo që po ndodh këtu”, deklaroi Hancock.
“Po mësojmë, të gjithë po sillemi me përgjegjësi dhe ka pasur transparencë, kështu që ky është një lajm i mirë, kështu përparon teknologjia.”
Hugging Face bëri të ditur se për zbulimin e ndërhyrjes përdori mjete të ndihmuara nga inteligjenca artificiale. Kjo, sipas Ghose, nënvizon domosdoshmërinë që sulmet e automatizuara të përballen me sisteme mbrojtëse të automatizuara po aq të shpejta.
Ghose tha se figura e “20-vjeçarit me pijen energjike dhe kapuçin” nuk përfaqëson më rrezikun më të sofistikuar me të cilin duhet të përballen ekipet e sigurisë kibernetike.
“Nuk mund të përballosh një sulmues me shpejtësi makinerie me një mbrojtje me shpejtësi njerëzore”, tha Ghose. “Duhet të jetë dhunë bot kundër botit, bot kundër njeriut, ne nuk mund të ecim me të njëjtin ritëm.” DPA News
