Depërtimi i një sistemi të avancuar të inteligjencës artificiale në infrastrukturën e Hugging Face, gjatë një eksperimenti sigurie, është vlerësuar si një paralajmërim serioz për mbarë industrinë teknologjike.
Incidenti u regjistrua në kuadër të një testi të brendshëm të OpenAI, i cili synonte të vlerësonte sa të afta ishin modelet e kompanisë për të zbuluar dhe shfrytëzuar dobësi kibernetike. Mirëpo, sistemi nuk u kufizua te zgjidhja e drejtpërdrejtë e detyrave: ai gjeti mënyrën për të dalë nga mjedisi i izoluar, fitoi qasje në internet dhe nisi t’i kërkonte përgjigjet në sistemet e Hugging Face.
Të lidhura
None found
OpenAI e cilësoi rastin si një “incident kibernetik të paprecedentë”. Kompania bëri të ditur se në të u përfshinë disa prej modeleve të saj, duke përfshirë GPT-5.6 Sol dhe një model tjetër më të avancuar, i cili vazhdon të testohet brenda kompanisë.
Për shkak se eksperimenti ishte projektuar për të matur kapacitetet maksimale të modeleve, mekanizmat standardë që pengojnë veprimtaritë kibernetike me rrezik të lartë ishin dobësuar qëllimisht gjatë testimit.
Sipas shpjegimit të OpenAI, agjenti ishte fokusuar në mënyrë të tepruar te gjetja e zgjidhjeve për testin “ExploitGym”. Për ta përmbushur këtë detyrë, sistemi zbuloi dhe ndërthurri disa dobësi, si në mjedisin kërkimor të OpenAI, ashtu edhe në infrastrukturën e Hugging Face.
https://www.dailymail.com/embed/video/3686037.html
Hapi i parë ishte identifikimi i një dobësie të panjohur më herët, të kategorisë “zero-day”, në programin ndërmjetës që shërbente për instalimin e paketave kompjuterike. Duke e shfrytëzuar atë, agjenti arriti të lidhej me internetin, kaloi më pas nga një sistem në tjetrin dhe zgjeroi në mënyrë graduale privilegjet e veta.
Pasi siguroi daljen në internet, modeli arsyetoi se Hugging Face mund të përmbante modele, grupe të dhënash dhe zgjidhjet e testit. Në vijim, ai përdori kredenciale të përvetësuara dhe dobësi të tjera të panjohura për të ndërtuar një rrugë që i lejonte të ekzekutonte kod nga distanca në serverët e platformës.
Hugging Face, e njohur si një prej platformave më të mëdha botërore për shpërndarjen e modeleve dhe të dhënave të inteligjencës artificiale, konfirmoi se kishte konstatuar hyrje të paautorizuar në një sasi të kufizuar të dhënash të brendshme, si dhe në disa kredenciale të përdorura nga shërbimet e saj.
Megjithatë, kompania deklaroi se nuk kishte zbuluar dëshmi që modelet, grupet e të dhënave ose aplikacionet publike ishin manipuluar. I paprekur rezultoi edhe zinxhiri i furnizimit me programe, përfshirë paketat dhe imazhet e publikuara. Ndërkohë, hetimet po vazhdojnë për të sqaruar nëse incidenti ka prekur të dhëna të partnerëve ose klientëve.
Gjatë shqyrtimit të ngjarjes, Hugging Face evidentoi mbi 17 mijë veprime të automatizuara. Për të rindërtuar rendin kronologjik të depërtimit, për të përcaktuar kredencialet e cenuara dhe për të dalluar dëmet konkrete nga veprimet mashtruese, kompania përdori gjithashtu inteligjencën artificiale.
Numri prej më shumë se 17 mijë veprimesh nuk nënkupton 17 mijë sulme të ndara dhe as 17 mijë adresa të ndryshme interneti, siç është paraqitur nga disa media. Ai i referohet vetëm sasisë së ngjarjeve të shënuara në historikun e veprimeve të sistemit.
Pas konstatimit të incidentit, Hugging Face korrigjoi dobësitë që kishin hapur rrugën për qasjen fillestare, rindërtoi serverët e komprometuar dhe zëvendësoi kredencialet e prekura. Krahas vendosjes së kontrolleve më të rrepta, rasti iu raportua edhe autoriteteve ligjzbatuese.
Në anën tjetër, OpenAI njoftoi se po punon së bashku me Hugging Face për hetimin teknik dhe se ka përforcuar masat e kontrollit në mjediset ku zhvillohen testimet. Dobësia e panjohur që u zbulua nga modelet i është komunikuar në mënyrë konfidenciale kompanisë përgjegjëse për programin e prekur, me qëllim që ajo të rregullohet.
Themeluesi i Hugging Face, Thomas Wolf, e përshkroi ngjarjen si një paralajmërim të rëndë për kompanitë e teknologjisë. Në një deklaratë për BBC-në, ai tha se sulmet e udhëhequra nga inteligjenca artificiale mund të shndërrohen së shpejti në një prej formave më të përhapura të sulmeve kibernetike.
Sipas Wolf, një numër i madh kompanish nuk e kanë kuptuar ende se kërcënimet kanë ndryshuar natyrë. Ai paralajmëroi se mekanizmat tradicionalë të mbrojtjes mund të rezultojnë të pamjaftueshëm kundër sistemeve autonome që veprojnë me ritëm shumë të lartë.
Shqetësimi kryesor lidhet me faktin se sistemi i realizoi këto veprime pa marrë udhëzime të drejtpërdrejta nga njerëzit në çdo fazë. Megjithatë, nuk është e saktë që ngjarja të paraqitet si rast i një inteligjence artificiale që “u rebelua” apo që veproi sipas qëllimeve të veta të pavarura.
Të dhënat e bëra publike tregojnë se agjenti nuk krijoi objektiva personale dhe nuk u përpoq ta sulmonte internetin në mënyrë të rastësishme. Ai thjesht e ndoqi deri në ekstrem detyrën e përcaktuar në test, në kushte ku disa masa mbrojtëse ishin çaktivizuar me vetëdije. Pikërisht përdorimi i mënyrave të paparashikuara dhe të rrezikshme për realizimin e këtij objektivi përbën thelbin e problemit.
Ekspertët vlerësojnë se incidenti dëshmon se modelet e përparuara janë tashmë në gjendje të zbulojnë dobësi të reja, të kombinojnë teknika të ndryshme sulmi dhe të realizojnë operacione të ndërlikuara në disa faza, pa pasur nevojë për mbikëqyrje të pandërprerë.
OpenAI pranoi se kapacitetet kibernetike të inteligjencës artificiale po zhvillohen me ritëm të shpejtë. Për këtë arsye, sipas kompanisë, edhe siguria, izolimi dhe monitorimi i këtyre sistemeve duhet të avancojnë me të njëjtën shpejtësi.
Rasti nuk përbënte një sulm të qëllimshëm të autorizuar nga OpenAI kundër Hugging Face, por ishte rezultat i një eksperimenti sigurie që kapërceu kufijtë e parashikuar. Sidoqoftë, aftësia e një agjenti për të zbuluar vetë një rrugë nga mjedisi eksperimental drejt infrastrukturës reale të një kompanie tjetër e rendit këtë ngjarje ndër paralajmërimet më serioze të deritanishme për rreziqet që lidhen me sistemet autonome të inteligjencës artificiale. /GazetaExpress/
