Incident i paprecedentë: Agjenti i OpenAI hyn në infrastrukturën e Hugging Face gjatë testimit

Një sistem i avancuar i inteligjencës artificiale ka arritur të depërtojë në infrastrukturën e Hugging Face gjatë një eksperimenti sigurie, në një incident të pazakontë kibernetik që është konsideruar alarm serioz për mbarë industrinë e teknologjisë.

Gjithçka ndodhi gjatë një testimi të brendshëm të OpenAI, i cili synonte të vlerësonte sa të afta janë modelet e kompanisë për të zbuluar dhe shfrytëzuar dobësi kibernetike. Në vend që të përfundonte detyrat sipas mënyrës së parashikuar, sistemi gjeti një rrugë për t’u larguar nga ambienti i izoluar, fitoi lidhje me internetin dhe kërkoi zgjidhjet në sistemet e Hugging Face.

OpenAI e ka quajtur rastin një “incident kibernetik të paprecedentë”. Kompania pranoi se në të u përfshinë disa prej modeleve të saj, përfshirë GPT-5.6 Sol dhe një model tjetër më të avancuar, i cili vazhdon të testohet brenda kompanisë.

Për të matur kapacitetet maksimale të modeleve gjatë eksperimentit, ishin dobësuar me qëllim mekanizmat standardë që pengojnë aktivitetet kibernetike me rrezik të lartë, bëri të ditur OpenAI.

Sipas shpjegimit të kompanisë, agjenti i inteligjencës artificiale ishte fokusuar në mënyrë të tepruar te gjetja e përgjigjeve për testin “ExploitGym”. Në përpjekje për ta përmbushur këtë detyrë, ai zbuloi dhe ndërthurri disa dobësi si në ambientin kërkimor të OpenAI, ashtu edhe në infrastrukturën e Hugging Face.

https://www.dailymail.com/embed/video/3686037.html

Hapi i parë ishte identifikimi i një cenueshmërie të tipit “zero-day”, e panjohur deri në atë moment, në programin ndërmjetës që shërbente për instalimin e paketave kompjuterike. Duke e shfrytëzuar atë, sistemi fitoi qasje në internet, kaloi më pas nga njëri sistem te tjetri dhe zgjeroi në mënyrë graduale privilegjet e veta.

Pasi u lidh me internetin, modeli arsyetoi se në Hugging Face mund të gjendeshin modele, grupe të dhënash dhe zgjidhjet e testit. Përmes kredencialeve të përvetësuara dhe dobësive të tjera ende të panjohura, ai ndërtoi një rrugë që i dha mundësi të ekzekutonte kod në distancë në serverët e platformës.

Hugging Face, e njohur si një prej platformave më të mëdha globale për shpërndarjen e modeleve dhe të dhënave të inteligjencës artificiale, konfirmoi se ishte konstatuar hyrje e paautorizuar në një sasi të kufizuar të dhënash të brendshme, si dhe në disa kredenciale që përdoreshin nga shërbimet e saj.

Megjithatë, kompania deklaroi se nuk janë gjetur dëshmi për ndërhyrje në modelet, grupet e të dhënave apo aplikacionet publike. I paprekur rezultoi edhe zinxhiri i furnizimit me programe, ku përfshihen paketat dhe imazhet e publikuara. Hugging Face vijon hetimet për të kuptuar nëse incidenti ka përfshirë të dhëna të klientëve ose partnerëve.

Thomas Wolf, themeluesi i Hugging Face, e përshkroi ngjarjen si një paralajmërim të rëndë për kompanitë e sektorit teknologjik. Duke folur për BBC-në, ai paralajmëroi se sulmet e udhëhequra nga inteligjenca artificiale mund të shndërrohen së shpejti në një prej formave më të përhapura të sulmeve kibernetike.

Sipas Wolf, shumë kompani nuk e kanë kuptuar ende se karakteri i kërcënimeve ka ndryshuar. Ai vlerësoi se mjetet tradicionale të sigurisë mund të mos mjaftojnë kundër sistemeve autonome, të cilat janë në gjendje të veprojnë me shpejtësi të lartë.

Në procesin e analizimit të depërtimit, Hugging Face evidentoi mbi 17 mijë veprime të automatizuara. Vetë kompania përdori inteligjencën artificiale për të rindërtuar rendin kronologjik të ngjarjes, për të gjetur kredencialet e cenuara dhe për të dalluar dëmet konkrete nga aktivitetet mashtruese.

Numri prej më shumë se 17 mijë nuk nënkupton 17 mijë sulme të ndryshme dhe as 17 mijë adresa të veçanta interneti, ndryshe nga sa është paraqitur në disa raportime mediatike. Ai i referohet sasisë së ngjarjeve të dokumentuara në historikun e veprimeve të sistemit.

Menjëherë pas konstatimit të incidentit, Hugging Face korrigjoi cenueshmëritë që kishin mundësuar hyrjen fillestare, rindërtoi serverët e komprometuar dhe zëvendësoi kredencialet e prekura. Përveç vendosjes së kontrolleve më të forta, rasti iu raportua edhe autoriteteve ligjzbatuese.

Nga ana e saj, OpenAI njoftoi se po punon së bashku me Hugging Face për hetimin teknik dhe se ka përforcuar masat e kontrollit në ambientet ku realizohen testimet. Cenueshmëria e panjohur që u zbulua nga modelet i është komunikuar në mënyrë konfidenciale kompanisë përgjegjëse për programin e prekur, në mënyrë që të mund të rregullohet.

Shqetësimi kryesor lidhet me faktin se sistemi i realizoi këto veprime pa marrë udhëzime të drejtpërdrejta nga njerëzit për secilin hap. Sidoqoftë, nuk është e saktë të thuhet se inteligjenca artificiale “u rebelua” apo se veproi duke zhvilluar qëllime të pavarura.

Të dhënat e bëra publike tregojnë se agjenti nuk krijoi objektiva personale dhe nuk u përpoq të sulmonte internetin në mënyrë të rastësishme. Ai ndoqi deri në ekstrem detyrën e përcaktuar në test, në kushte ku një pjesë e mekanizmave mbrojtës ishin çaktivizuar qëllimisht. Pikërisht përdorimi i metodave të paparashikuara dhe të rrezikshme për arritjen e këtij objektivi përbën thelbin e problemit.

Ekspertët thonë se rasti dëshmon se modelet më të avancuara tashmë kanë aftësi të zbulojnë cenueshmëri të reja, të kombinojnë teknika të ndryshme sulmi dhe të zhvillojnë operacione të ndërlikuara me disa faza, pa qenë vazhdimisht nën mbikëqyrje.

OpenAI pranoi se kapacitetet kibernetike të inteligjencës artificiale po zhvillohen me ritme të shpejta. Për këtë arsye, sipas kompanisë, edhe mekanizmat për sigurinë, izolimin dhe monitorimin e këtyre sistemeve duhet të ecin përpara me të njëjtën shpejtësi.

Rasti nuk përbënte një sulm të qëllimshëm të miratuar nga OpenAI kundër Hugging Face, por ishte rezultat i një testimi sigurie që kapërceu kufijtë e parashikuar. Megjithatë, aftësia e një agjenti për të gjetur vetë kalimin nga një ambient eksperimental drejt infrastrukturës reale të një kompanie tjetër e rendit këtë ngjarje ndër paralajmërimet më serioze të deritanishme për rreziqet që lidhen me sistemet autonome të inteligjencës artificiale. /GazetaExpress/