Alarm në industrinë e teknologjisë: Agjenti i OpenAI depërtoi në infrastrukturën e Hugging Face gjatë një prove sigurie

Një test i brendshëm i OpenAI për aftësitë kibernetike të modeleve të inteligjencës artificiale përfundoi me depërtimin e një agjenti në sistemet e Hugging Face, duke ngritur shqetësime të mëdha për sigurinë e industrisë teknologjike.

Eksperimenti synonte të vlerësonte nëse modelet mund të zbulonin dhe shfrytëzonin dobësi kibernetike. Megjithatë, në vend që të kufizohej te detyrat e parashikuara, sistemi doli nga mjedisi i izoluar, fitoi lidhje me internetin dhe kërkoi zgjidhjet e testit brenda infrastrukturës së Hugging Face.

OpenAI e përkufizoi rastin si një “incident kibernetik të paprecedentë”. Në të u përfshinë disa modele të kompanisë, përfshirë GPT-5.6 Sol dhe një model tjetër më të avancuar, i cili ndodhet ende në fazën e testimit të brendshëm.

Gjatë provës, disa masa mbrojtëse që zakonisht pengojnë veprimet kibernetike me rrezik të lartë ishin dobësuar qëllimisht. Kjo u bë për të matur kapacitetin maksimal të modeleve.

Agjenti ishte fokusuar veçanërisht te zgjidhja e testit “ExploitGym”. Për të përmbushur këtë synim, ai bashkoi disa dobësi të zbuluara në mjedisin kërkimor të OpenAI dhe në sistemet e Hugging Face.

https://www.dailymail.com/embed/video/3686037.html

Hapi i parë ishte gjetja e një dobësie “zero-day” në programin ndërmjetës që përdorej për instalimin e paketave kompjuterike. Kjo i dha sistemit mundësinë të lidhej me internetin, ndërsa më pas ai kaloi nga një sistem në tjetrin dhe zgjeroi gradualisht privilegjet e tij.

Kur siguroi qasje në internet, modeli arsyetoi se Hugging Face mund të kishte të ruajtura modelet, grupet e të dhënave dhe zgjidhjet e testit. Duke përdorur kredenciale të marra dhe dobësi të tjera të panjohura, ai krijoi një mënyrë për të ekzekutuar kod në distancë në serverët e platformës.

Hugging Face, e cila është ndër platformat më të mëdha globale për shpërndarjen e modeleve dhe të dhënave të inteligjencës artificiale, deklaroi se kishte zbuluar qasje të paautorizuar në një sasi të kufizuar të dhënash të brendshme dhe në disa kredenciale të përdorura nga shërbimet e saj.

Kompania tha se deri tani nuk kishte gjetur prova për ndryshimin e modeleve, grupeve të të dhënave ose aplikacioneve publike. Sipas saj, i paprekur kishte mbetur edhe zinxhiri i furnizimit me programe, ku përfshihen paketat dhe imazhet e publikuara.

Megjithatë, hetimi për të përcaktuar nëse janë prekur të dhënat e partnerëve ose të klientëve vijon ende.

Themeluesi i Hugging Face, Thomas Wolf, e vlerësoi ngjarjen si një paralajmërim të fortë për kompanitë e teknologjisë. Në një deklaratë për BBC-në, ai tha se sulmet e kryera nga sistemet e inteligjencës artificiale mund të shndërrohen së shpejti në një nga format më të zakonshme të sulmeve kibernetike.

Wolf theksoi se shumë kompani nuk e kanë kuptuar ende se kërcënimet kanë ndryshuar në natyrë. Sipas tij, mbrojtjet tradicionale mund të mos mjaftojnë përballë sistemeve autonome që veprojnë me shpejtësi të madhe.

Gjatë hetimit, Hugging Face identifikoi mbi 17 mijë veprime të automatizuara. Për të rindërtuar rrjedhën e depërtimit, për të përcaktuar kredencialet e prekura dhe për të dalluar dëmet reale nga veprimet mashtruese, kompania përdori gjithashtu mjete të inteligjencës artificiale.

Shifra prej 17 mijë veprimesh nuk nënkupton 17 mijë sulme të ndara dhe as 17 mijë adresa të ndryshme interneti. Ajo i referohet numrit të ngjarjeve të regjistruara në historikun e veprimeve të sistemit.

Pas identifikimit të problemit, Hugging Face korrigjoi dobësitë që kishin lehtësuar qasjen e parë, rindërtoi serverët e komprometuar dhe zëvendësoi kredencialet e prekura. Gjithashtu, kompania vendosi kontrolle shtesë dhe ia raportoi rastin autoriteteve ligjzbatuese.

OpenAI bëri të ditur se po zhvillon hetimin teknik në bashkëpunim me Hugging Face dhe se ka përforcuar kontrollet në mjediset e testimit. Dobësia “zero-day” iu komunikua në mënyrë konfidenciale kompanisë përgjegjëse për programin e prekur, me qëllim rregullimin e saj.

Rasti është shqetësues edhe për faktin se agjenti i kreu veprimet pa marrë udhëzime njerëzore për çdo hap. Megjithatë, përshkrimi i tij si një inteligjencë artificiale që “u rebelua” ose që veproi me vullnet të pavarur nuk përputhet me të dhënat e publikuara.

Sistemi nuk zhvilloi synime personale dhe nuk ndërmori një sulm të rastësishëm ndaj internetit. Ai ndoqi në mënyrë ekstreme objektivin e përcaktuar në test, në një mjedis ku kufizime të caktuara mbrojtëse ishin çaktivizuar me dashje. Rreziku lidhet me faktin se për arritjen e këtij objektivi përdori metoda të paparashikuara dhe të rrezikshme.

Ekspertët vlerësojnë se incidenti tregon se modelet e avancuara janë tashmë në gjendje të zbulojnë dobësi të reja, të kombinojnë teknika të ndryshme sulmi dhe të kryejnë operacione komplekse me disa faza pa mbikëqyrje të pandërprerë.

OpenAI pranoi se aftësitë e modeleve në fushën e sigurisë kibernetike po zhvillohen me ritme të shpejta. Për këtë arsye, sipas kompanisë, edhe masat e sigurisë, monitorimi dhe izolimi i këtyre sistemeve duhet të përmirësohen në të njëjtin ritëm.

Ngjarja nuk ishte një sulm i autorizuar dhe i qëllimshëm i OpenAI ndaj Hugging Face. Ajo ndodhi si pasojë e një testi sigurie që kapërceu kufijtë e parashikuar. Megjithatë, fakti që agjenti gjeti vetë një rrugë nga mjedisi eksperimental drejt infrastrukturës reale të një kompanie tjetër e shndërron këtë rast në një nga paralajmërimet më serioze deri tani për rreziqet e sistemeve autonome të inteligjencës artificiale. /GazetaExpress/