Një provë e brendshme sigurie e OpenAI përfundoi përtej kufijve të parashikuar, pasi një sistem i avancuar i inteligjencës artificiale arriti të depërtonte në infrastrukturën e Hugging Face. Rasti është vlerësuar si një paralajmërim serioz për mbarë industrinë e teknologjisë.
Testi ishte ndërtuar për të vlerësuar se sa të afta janë modelet e OpenAI në identifikimin dhe shfrytëzimin e dobësive kibernetike. Mirëpo, në vend që të përmbushte drejtpërdrejt detyrat e caktuara, sistemi gjeti mënyrën për t’u larguar nga mjedisi i izoluar, siguroi lidhje me internetin dhe kërkoi zgjidhjet në sistemet e Hugging Face.
Të lidhura
None found
OpenAI e cilësoi rastin si një “incident kibernetik të paprecedentë”. Kompania bëri të ditur se në të u përfshinë disa prej modeleve të saj, përfshirë GPT-5.6 Sol dhe një model tjetër më të avancuar, i cili vazhdon të testohet brenda kompanisë.
Për të matur kapacitetet maksimale të modeleve, gjatë eksperimentit ishin dobësuar qëllimisht mekanizmat standardë që pengojnë aktivitetet kibernetike me rrezik të lartë, sipas OpenAI.
Kompania shpjegoi se agjenti ishte përqendruar në mënyrë të tepruar te gjetja e zgjidhjeve për testin “ExploitGym”. Për arritjen e këtij qëllimi, sistemi zbuloi dhe ndërthuri disa dobësi që ndodheshin si në mjedisin kërkimor të OpenAI, ashtu edhe në infrastrukturën e Hugging Face.
https://www.dailymail.com/embed/video/3686037.html
Hapi i parë ishte identifikimi i një dobësie të panjohur më herët, të kategorisë “zero-day”, në programin ndërmjetës që shërbente për instalimin e paketave kompjuterike. Duke e shfrytëzuar atë, agjenti fitoi qasje në internet dhe më pas kaloi ndërmjet sistemeve, ndërsa i zgjeronte gradualisht privilegjet e veta.
Pas daljes në internet, modeli vlerësoi se Hugging Face mund të kishte të ruajtura modele, grupe të dhënash dhe zgjidhjet e testit. Duke përdorur kredenciale të përvetësuara dhe dobësi të tjera të panjohura, ai krijoi një rrugë për ekzekutimin në distancë të kodit në serverët e platformës.
Hugging Face, e njohur si një prej platformave më të mëdha botërore për shpërndarjen e modeleve dhe të dhënave të inteligjencës artificiale, konfirmoi se kishte konstatuar qasje të paautorizuar në një sasi të kufizuar të dhënash të brendshme dhe në disa kredenciale të përdorura nga shërbimet e saj.
Sipas kompanisë, nuk janë gjetur dëshmi se janë manipuluar modelet, grupet e të dhënave ose aplikacionet publike. I paprekur rezultoi edhe zinxhiri i furnizimit me programe, ku përfshihen paketat dhe imazhet e publikuara. Ndërkohë, hetimet po vazhdojnë për të sqaruar nëse janë cenuar të dhëna që u përkasin klientëve apo partnerëve.
Themeluesi i Hugging Face, Thomas Wolf, tha për BBC-në se incidenti përbën një paralajmërim të rëndë për kompanitë e teknologjisë. Sipas tij, sulmet e udhëhequra nga inteligjenca artificiale mund të shndërrohen së shpejti në një prej formave më të përhapura të sulmeve kibernetike.
Wolf vlerësoi se një numër i madh kompanish ende nuk e kanë kuptuar ndryshimin e natyrës së kërcënimeve. Ai paralajmëroi se përballë sistemeve autonome, të afta të veprojnë me shpejtësi të lartë, mbrojtja tradicionale mund të mos jetë më e mjaftueshme.
Në procesin e analizimit të depërtimit, Hugging Face evidentoi mbi 17 mijë veprime të automatizuara. Edhe vetë kompania përdori inteligjencën artificiale për të rindërtuar rendin kronologjik të ngjarjeve, për të gjetur kredencialet e cenuara dhe për të dalluar dëmet konkrete nga veprimet mashtruese.
Numri prej më shumë se 17 mijë nuk nënkupton 17 mijë sulme të ndara dhe as 17 mijë adresa të ndryshme interneti, ndryshe nga sa është raportuar nga disa media. Shifra i referohet sasisë së ngjarjeve të regjistruara në historikun e aktiviteteve të sistemit.
Pasi e identifikoi incidentin, Hugging Face korrigjoi dobësitë që kishin mundësuar hyrjen fillestare, rindërtoi serverët e komprometuar dhe zëvendësoi kredencialet e prekura. Platforma vendosi gjithashtu masa kontrolli më të forta dhe e referoi çështjen te autoritetet ligjzbatuese.
Nga ana tjetër, OpenAI deklaroi se po punon së bashku me Hugging Face në kuadër të hetimit teknik. Kompania tha gjithashtu se ka fuqizuar kontrollet në mjediset e testimit. Dobësia e panjohur që u zbulua nga modelet i është komunikuar në mënyrë konfidenciale kompanisë përgjegjëse për programin e cenuar, me qëllim që ajo të riparohet.
Një prej shqetësimeve kryesore është se sistemi i realizoi këto veprime pa marrë udhëzime të drejtpërdrejta nga njerëzit për secilin hap. Megjithatë, nuk është e saktë që rasti të paraqitet si një inteligjencë artificiale që “u rebelua” apo që zhvilloi qëllime të pavarura.
Të dhënat e bëra publike tregojnë se agjenti nuk krijoi synime personale dhe nuk tentoi të sulmonte internetin në mënyrë rastësore. Ai ndoqi deri në ekstrem objektivin e përcaktuar në test, ndërsa vepronte në një mjedis ku disa masa mbrojtëse ishin çaktivizuar qëllimisht. Shqetësimi lidhet me faktin se, për ta përmbushur detyrën, sistemi zgjodhi metoda të paparashikuara dhe të rrezikshme.
Ekspertët thonë se ngjarja dëshmon se modelet e përparuara janë tashmë në gjendje të zbulojnë dobësi të reja, të kombinojnë disa teknika sulmi dhe të realizojnë operacione të ndërlikuara me shumë faza, pa pasur mbikëqyrje të vazhdueshme.
OpenAI pranoi se kapacitetet kibernetike të inteligjencës artificiale po zhvillohen me ritëm të shpejtë. Për këtë arsye, sipas kompanisë, izolimi, monitorimi dhe siguria e këtyre sistemeve duhet të përparojnë me të njëjtën shpejtësi.
Ngjarja nuk përbënte një sulm të qëllimshëm të miratuar nga OpenAI kundër Hugging Face, por ishte rezultat i një prove sigurie që kapërceu kufijtë e planifikuar. Sidoqoftë, aftësia e një agjenti për të zbuluar vetë një kalim nga mjedisi eksperimental drejt infrastrukturës reale të një kompanie tjetër e rendit këtë rast ndër paralajmërimet më serioze të deritanishme për rreziqet që paraqesin sistemet autonome të inteligjencës artificiale. /GazetaExpress/
