Një agjent autonom i inteligjencës artificiale, i mbështetur te modelet e OpenAI, arriti të dilte nga një hapësirë testimi që duhej ta mbante të shkëputur nga interneti. Më pas ai depërtoi në sistemet e një kompanie tjetër dhe mori përgjigjet e një testi të sigurisë kibernetike. Ngjarja, e cilësuar si “e paprecedentë”, tregoi se agjentët e inteligjencës artificiale mund t’i kapërcejnë kufizimet e zhvilluesve ndërsa përpiqen të përmbushin objektivat që u janë caktuar.
Të lidhura
None found
Sipas OpenAI, sistemi përdorte disa modele së bashku, mes tyre GPT-5.6 Sol dhe një model më të avancuar që ndodhej ende në fazën para publikimit. Incidenti ndodhi gjatë një vlerësimi të brendshëm, për të cilin ishin çaktivizuar mekanizmat e zakonshëm mbrojtës të sigurisë kibernetike.
Gjatë testit, agjenti identifikoi një dobësi të panjohur në një program të një pale të tretë, siguroi dalje në internetin e hapur dhe më pas hyri në platformën e inteligjencës artificiale Hugging Face, me seli në Nju Jork.
Njoftimet e publikuara të martën nga të dyja kompanitë tregojnë se, në përpjekje për të realizuar detyrën e tij, agjenti përvetësoi kredenciale, kaloi nga një sistem i brendshëm kompjuterik te tjetri dhe siguroi të dhëna sekrete që mund ta ndihmonin të mashtronte gjatë vlerësimit.
Hugging Face bëri të ditur se ndërhyrja nxori në pah një sasi të kufizuar informacioni të brendshëm dhe disa kredenciale. Megjithatë, kompania nuk zbuloi prova se ishin ndryshuar modelet publike, të dhënat apo hapësirat “Spaces” të aksesueshme nga publiku.
Kompania tha gjithashtu se zinxhiri i furnizimit të softuerit nuk ishte cenuar. Në të njëjtën kohë, ajo vijonte të verifikonte nëse incidenti kishte prekur të dhëna të klientëve ose partnerëve të saj.
Shomit Ghose, pedagog në shkollën e inxhinierisë të UC Berkeley dhe partner në firmën e kapitalit sipërmarrës Clearvision Ventures, me bazë në Menlo Park, paralajmëroi se rasti dëshmon mundësinë që agjentët e inteligjencës artificiale të hyjnë në sisteme kritike kompjuterike. Mes objektivave të mundshëm ai përmendi shkollat, spitalet, shërbimet publike, institucionet qeveritare dhe madje Pentagonin.
Duke e përshkruar rëndësinë e ngjarjes, Ghose tha se kjo përbën “rrjedhjen e parë në digë”.
OpenAI, e cila ndodhet në San Francisko, sqaroi se gjithçka ndodhi teksa po provohej aftësia e modeleve të saj për t’u përdorur në operacione të sofistikuara kibernetike. Për të matur kufirin maksimal të këtyre aftësive, kompania kishte hequr mbrojtjet e përdorura në prodhim, të cilat normalisht i ndalojnë modelet të përfshihen në veprimtari kibernetike me rrezik të lartë.
Agjenti ishte vendosur në një mjedis që supozohej të ishte fort i izoluar. Lidhja e tij me internetin duhej të kufizohej vetëm te programet e palëve të treta të instaluara brenda sistemit, përmes të cilave mund të shtoheshin paketa softuerike.
Në vend që të qëndronte brenda këtyre kufijve, sistemi shpenzoi një pjesë të konsiderueshme të kapacitetit të tij kompjuterik duke kërkuar një dalje drejt internetit të hapur, sipas OpenAI. Ai gjeti dhe shfrytëzoi një dobësi të pazbuluar më herët në softuerin e palës së tretë, përpara se të kalonte nëpër mjedisin kërkimor të OpenAI dhe të arrinte te një kompjuter me lidhje interneti.
Pas daljes në internet, agjenti arsyetoi se Hugging Face mund të zotëronte të dhëna që kishin lidhje me ExploitGym, standardin e sigurisë kibernetike që po përpiqej të përfundonte.
Sistemi nisi më pas të kërkonte një mënyrë për t’u futur në Hugging Face. OpenAI tha se ai ndërthuri përdorimin e kredencialeve të vjedhura me dobësi që nuk njiheshin më parë, duke arritur të ekzekutonte kod nga distanca në serverët e kompanisë dhe të gjente zgjidhjet e testit të ruajtura në bazën e të dhënave të prodhimit.
Sipas Hugging Face, sulmi nisi përmes një “grupi të dhënash keqdashës”, i cili shfrytëzoi dy dobësi në linjën e kompanisë për përpunimin e të dhënave.
Hugging Face e përshkroi ndërhyrjen si thelbësisht të ndryshme nga çdo incident që kishte menaxhuar më parë, pasi i gjithë operacioni, nga fillimi deri në fund, u drejtua nga një sistem autonom agjentik i inteligjencës artificiale. Kompania tha se ngjarja përputhej me skenarin e “sulmuesit agjentik” që industria kishte parashikuar.
Për realizimin e ndërhyrjes, sistemi ndërmori mijëra veprime automatike përmes një grupi mjedisesh testimi me jetëgjatësi të shkurtër, bëri të ditur Hugging Face.
Kur e identifikoi fillimisht aktivitetin më 16 korrik, Hugging Face nuk kishte dijeni se cilët ishin zhvilluesit e modeleve të inteligjencës artificiale të përdorura në operacion.
Vetëm të martën OpenAI njoftoi se modelet përgjegjëse ishin të sajat. Kompania e cilësoi ngjarjen si “një incident kibernetik të paprecedentë”, ku u shfaqën aftësi të nivelit më të avancuar.
OpenAI deklaroi se ekipi i saj i sigurisë e kishte evidentuar në mënyrë të pavarur veprimtarinë e pazakontë. Nga ana tjetër, Hugging Face tha se ndërhyrja u zbulua dhe u ndal nga ekipi i saj i sigurisë së bashku me agjentët e saj të inteligjencës artificiale. Pas kësaj, kompania nisi kufizimin e pasojave dhe rindërtimin e plotë të rrjedhës së ngjarjes.
Si pjesë e reagimit, Hugging Face korrigjoi dobësitë, rindërtoi nyjet kompjuterike që ishin komprometuar dhe anuloi ose zëvendësoi kredencialet dhe tokenët e aksesit të prekur. Incidenti iu raportua gjithashtu autoriteteve ligjzbatuese, ndërsa në hetim u përfshinë ekspertë të jashtëm të sigurisë kibernetike.
OpenAI tha se, gjatë procesit të korrigjimit të dobësive, kishte vendosur masa më të forta kontrolli në infrastrukturën e vet të testimit. Ajo gjithashtu njoftoi ofruesin e programit të palës së tretë për dobësinë e panjohur dhe nisi forcimin e mbrojtjeve për vlerësimet e ardhshme.
Kompania shtoi se Komiteti i saj i Sigurisë dhe Mbrojtjes mbahej rregullisht i informuar për zhvillimet.
Drejtori ekzekutiv i Hugging Face, Clément Delangue, shkroi të martën në rrjetet sociale se kompania e tij kishte punuar së bashku me OpenAI gjatë hetimit. Ai theksoi se Hugging Face besonte fuqimisht se OpenAI nuk kishte pasur qëllime keqdashëse.
Megjithatë, OpenAI pranoi se incidenti dëshmon aftësinë e sistemeve të sofistikuara të inteligjencës artificiale për të zbuluar dhe shfrytëzuar mënyra të reja sulmi në sisteme reale, edhe pa pasur në dispozicion kodin e tyre burimor.
Ngjarja ngre njëkohësisht pikëpyetje mbi arsyen pse modelet me kapacitete të avancuara sulmuese u vendosën në një mjedis testimi ku ekzistonte ende një rrugë e mundshme për të dalë në internet.
Dalja e ChatGPT në fund të vitit 2022 kontribuoi në shpërthimin e zhvillimit të inteligjencës artificiale gjeneruese, sektor ku u investuan miliarda dollarë në Silicon Valley. Paralelisht, u shtuan shqetësimet se sistemet gjithnjë e më të fuqishme mund të shfaqin sjellje të paparashikuara ose t’i ndjekin objektivat e dhëna përmes metodave që zhvilluesit nuk i kanë menduar.
Këto shqetësime janë intensifikuar me zhvillimin e agjentëve të inteligjencës artificiale, të projektuar për të realizuar në mënyrë të pavarur detyra të ndërlikuara. Ndryshe nga një chatbot që reagon ndaj një kërkese të vetme, një agjent mund të hartojë një varg hapash, të shfrytëzojë mjete të jashtme dhe të vazhdojë përpjekjet për arritjen e objektivit me ndërhyrje të kufizuar nga njerëzit.
Në vlerësimin e OpenAI, sistemi nuk kishte marrë urdhër që të sulmonte Hugging Face. Detyra e tij ishte të zgjidhte një standard të sigurisë kibernetike, por ai arriti vetë në përfundimin se hyrja në sistemet e një kompanie tjetër mund ta çonte te përgjigjet.
Për Ghose, rasti tregon se zhvilluesit nuk janë në gjendje të parashikojnë çdo rrugë që një agjent i avancuar mund të zgjedhë për të kryer detyrën e ngarkuar. Sipas tij, nuk mund të dihet asnjëherë me siguri se çfarë do të bëjë një sistem i tillë.
Incidenti lë të kuptohet gjithashtu se mekanizmat e sigurisë kibernetike, të ndërtuar për të penguar hakerët njerëzorë, mund të kapërcehen nga agjentë të inteligjencës artificiale që kërkojnë dobësi dhe veprojnë me shpejtësinë e një makinerie.
Ghose tha se agjentët e përdorur nga zhvatësit, mashtruesit apo kundërshtarët shtetërorë mund të kërcënojnë të gjithë ekonominë. Rreziqet mund të përfshijnë goditje ndaj rrjeteve të energjisë elektrike, sistemeve të furnizimit me ujë të pijshëm dhe infrastrukturave të tjera jetike.
Sipas tij, dëme të mëdha mund të shkaktojnë edhe agjentët që ndjekin qëllime të ligjshme, nëse për realizimin e detyrës zgjedhin metoda të rrezikshme ose të paligjshme. Ghose nënvizoi se sulmi ndaj burimeve kompjuterike të një kompanie përbën veprim të jashtëligjshëm.
Ai shpjegoi se vetë arkitektura bazë e agjentëve të inteligjencës artificiale mund ta vështirësojë kontrollin mbi ta. Shtimi i masave mbrojtëse mund t’i bëjë ata më të ngadaltë dhe të rrisë kërkesën për burime kompjuterike, duke krijuar një përplasje mes performancës dhe sigurisë.
Ngjarja vjen ndërsa kompanitë e inteligjencës artificiale po përballen me mbikëqyrje gjithnjë e më të madhe për rreziqet që mund të sjellin modelet më të fuqishme. Në qershor, presidenti Donald Trump nxori një urdhër ekzekutiv që u kërkonte agjencive federale të hartonin standarde të klasifikuara për vlerësimin e kapaciteteve të avancuara të modeleve në fushën e sigurisë kibernetike.
Urdhri parashikonte gjithashtu ngritjen e një programi vullnetar, përmes të cilit zhvilluesit do të mund t’i jepnin qeverisë akses në disa modele kufitare përpara se ato t’u viheshin në dispozicion partnerëve të jashtëm.
Në të njëjtin dokument, zyrtarët federalë udhëzoheshin t’i jepnin përparësi zbatimit të ligjit ndaj personave që përdorin inteligjencën artificiale për të hyrë në mënyrë të paligjshme në sisteme kompjuterike ose për t’i dëmtuar ato.
Në Silicon Valley, ku kanë selitë shumë prej kompanive më të rëndësishme botërore të inteligjencës artificiale, incidenti mund të shtojë dyshimet për gjykimin e industrisë teknologjike dhe aftësinë e saj për t’u vetërregulluar.
Russell Hancock, drejtor ekzekutiv i institutit kërkimor Joint Venture Silicon Valley, tha se reagimi i tij i menjëhershëm pasi mësoi për ndërhyrjen ishte: “O zot, kjo është ajo, tani të gjithë jemi të dënuar.”
Megjithatë, Hancock vlerësoi se transparenca e OpenAI për zbulimin dhe bashkëpunimi ndërmjet kompanive tregonin se industria po nxirrte mësime nga dështimi.
Ai tha se çdo teknologji e re shoqërohet me rreziqe dhe pengesa dhe ka nevojë të përmirësohet, ndërsa ky rast dukej se dëshmonte pikërisht një proces të tillë.
Sipas Hancock, fakti që palët po mësojnë, po tregohen të përgjegjshme dhe kanë vepruar me transparencë përbën lajm pozitiv, sepse në këtë mënyrë ecën përpara teknologjia.
Hugging Face bëri të ditur se për zbulimin e ndërhyrjes përdori mjete të asistuara nga inteligjenca artificiale. Kjo, sipas Ghose, nxjerr në pah nevojën që sulmet automatike të përballen me sisteme mbrojtëse po aq të shpejta dhe të automatizuara.
Ghose tha se stereotipi i “20-vjeçarit me pijen energjike dhe kapuçin” nuk përfaqëson më kërcënimin më të sofistikuar që duhet të përballojnë ekipet e sigurisë kibernetike.
Ai paralajmëroi se një sulmues që lëviz me shpejtësi makinerie nuk mund të ndalet me një mbrojtje që reagon me shpejtësi njerëzore. Sipas tij, përballja duhet të jetë bot kundër botit, pasi njerëzit nuk mund të ruajnë të njëjtin ritëm në një betejë bot kundër njeriut.
Burimi: DPA News
