Testi i sigurisë del jashtë kontrollit, agjenti i OpenAI hyn në infrastrukturën e Hugging Face

Industria e teknologjisë është vënë përballë një paralajmërimi serioz pas një ngjarjeje të pazakontë kibernetike, ku një sistem i sofistikuar i inteligjencës artificiale arriti të hynte në infrastrukturën e Hugging Face.

Gjithçka ndodhi gjatë një eksperimenti të brendshëm të OpenAI, i cili synonte të vlerësonte sa të afta janë modelet e kompanisë për të zbuluar dhe shfrytëzuar dobësi kibernetike. Sistemi, në vend që të përmbushte detyrat e testit në mënyrë të drejtpërdrejtë, gjeti mundësinë të largohej nga ambienti i izoluar, të lidhej me internetin dhe t’i kërkonte përgjigjet në sistemet e Hugging Face.

OpenAI e cilësoi rastin si një “incident kibernetik të paprecedentë”. Kompania bëri të ditur se në të u përfshinë disa prej modeleve të saj, përfshirë GPT-5.6 Sol dhe një model tjetër më të avancuar, i cili vazhdon të testohet brenda kompanisë. Për të matur kapacitetet maksimale të modeleve, gjatë eksperimentit ishin dobësuar qëllimisht mekanizmat standardë që pengojnë aktivitetet kibernetike me rrezik të lartë.

Sipas OpenAI, agjenti ishte fokusuar në mënyrë të tepruar te sigurimi i zgjidhjeve të testit “ExploitGym”. Për ta arritur këtë synim, ai zbuloi dhe ndërthuri disa dobësi që ndodheshin si në mjedisin kërkimor të OpenAI, ashtu edhe në infrastrukturën e Hugging Face.

https://www.dailymail.com/embed/video/3686037.html

Hapi i parë i sistemit ishte identifikimi i një dobësie të panjohur deri atëherë, të kategorisë “zero-day”, në programin ndërmjetës që shërbente për instalimin e paketave kompjuterike. Duke e shfrytëzuar atë, agjenti fitoi lidhje me internetin dhe më pas kaloi ndërmjet sistemeve, ndërsa i zgjeronte në mënyrë graduale privilegjet e veta.

Pas daljes në internet, modeli vlerësoi se Hugging Face mund të kishte të ruajtura modele, grupe të dhënash dhe përgjigjet e testit. Me kredenciale të përvetësuara dhe dobësi të tjera të panjohura, ai ndërtoi një rrugë që i lejonte të ekzekutonte kod në distancë në serverët e platformës.

Hugging Face, e njohur si një prej platformave më të mëdha globale për shpërndarjen e modeleve dhe të dhënave të inteligjencës artificiale, konfirmoi se ishte konstatuar hyrje e paautorizuar në një sasi të kufizuar të dhënash të brendshme, si dhe në disa kredenciale që përdoreshin nga shërbimet e kompanisë.

Megjithatë, kompania deklaroi se nuk kishte evidentuar dëshmi për ndërhyrje në modele, grupe të dhënash ose aplikacione publike. I paprekur rezultoi edhe zinxhiri i furnizimit me programe, ku përfshihen paketat dhe imazhet e publikuara. Ndërkohë, hetimi po vazhdon për të përcaktuar nëse incidenti ka prekur të dhëna të klientëve apo partnerëve.

Thomas Wolf, themeluesi i Hugging Face, e përshkroi ngjarjen si një sinjal të fortë paralajmërues për kompanitë e teknologjisë. Në një deklaratë për BBC-në, ai u shpreh se sulmet e udhëhequra nga inteligjenca artificiale mund të shndërrohen së shpejti në një prej llojeve më të përhapura të sulmeve kibernetike.

Wolf vlerësoi se shumë kompani ende nuk e kanë kuptuar ndryshimin e natyrës së kërcënimeve. Sipas tij, përballë sistemeve autonome që veprojnë me ritëm shumë të lartë, mbrojtja tradicionale mund të mos ofrojë më siguri të mjaftueshme.

Në procesin e analizimit të incidentit, Hugging Face evidentoi mbi 17 mijë veprime të automatizuara. Vetë kompania përdori inteligjencën artificiale për të rindërtuar rrjedhën kohore të depërtimit, për të gjetur kredencialet e cenuara dhe për të dalluar dëmet e vërteta nga veprimet mashtruese.

Numri mbi 17 mijë nuk nënkupton 17 mijë sulme të ndryshme dhe as 17 mijë adresa të veçanta interneti, siç kanë raportuar disa media. Ai i referohet sasisë së ngjarjeve të regjistruara në historikun e aktivitetit të sistemit.

Pasi incidenti u zbulua, Hugging Face korrigjoi dobësitë që kishin hapur rrugën për hyrjen fillestare, rindërtoi serverët e komprometuar dhe zëvendësoi kredencialet e prekura. Krahas vendosjes së kontrolleve më të forta, kompania e referoi çështjen edhe te autoritetet ligjzbatuese.

Nga ana e saj, OpenAI njoftoi se po punon së bashku me Hugging Face në hetimin teknik dhe se ka shtuar kontrollet në mjediset ku zhvillohen testimet. Dobësia e panjohur që modelet zbuluan iu komunikua në mënyrë konfidenciale kompanisë përgjegjëse për programin e cenuar, me qëllim që ajo të rregullohet.

Rasti ka ngritur shqetësime të mëdha, sepse sistemi i realizoi hapat pa marrë udhëzime të drejtpërdrejta nga njerëzit për secilin veprim. Sidoqoftë, nuk është e saktë të thuhet se inteligjenca artificiale “u rebelua” apo se veproi mbi bazën e qëllimeve të veta.

Të dhënat e bëra publike tregojnë se agjenti nuk krijoi objektiva personale dhe nuk u përpoq të sulmonte internetin në mënyrë të rastësishme. Në kushtet kur disa barriera mbrojtëse ishin çaktivizuar me qëllim, ai ndoqi deri në ekstrem objektivin e përcaktuar në test. Pikërisht përdorimi i mënyrave të paparashikuara dhe të rrezikshme për realizimin e këtij objektivi përbën thelbin e problemit.

Sipas paralajmërimeve të ekspertëve, incidenti dëshmon se modelet e përparuara janë tashmë në gjendje të zbulojnë dobësi të reja, të kombinojnë disa teknika sulmi dhe të zhvillojnë operacione komplekse me shumë faza, pa qenë nën mbikëqyrje të pandërprerë.

OpenAI pranoi se kapacitetet kibernetike të inteligjencës artificiale po avancojnë shpejt. Për këtë arsye, kompania theksoi se edhe mekanizmat e sigurisë, monitorimit dhe izolimit të këtyre sistemeve duhet të përparojnë me të njëjtën shpejtësi.

Ngjarja nuk përbënte një sulm të qëllimshëm të miratuar nga OpenAI kundër Hugging Face, por ishte rezultat i një prove sigurie që tejkaloi caqet e parashikuara. Megjithatë, mundësia që një agjent të gjente në mënyrë autonome kalimin nga një mjedis eksperimental në infrastrukturën reale të një kompanie tjetër e rendit këtë rast ndër paralajmërimet më të rënda deri më sot për rrezikun e sistemeve autonome të inteligjencës artificiale. /GazetaExpress/