Incident gjatë testimit: Agjenti i OpenAI thyen izolimin dhe hyn në infrastrukturën e Hugging Face

Një sistem i avancuar i inteligjencës artificiale arriti të depërtonte në infrastrukturën e Hugging Face gjatë një eksperimenti të brendshëm të OpenAI, duke shkaktuar një incident kibernetik që konsiderohet paralajmërim serioz për të gjithë sektorin e teknologjisë.

Testi ishte projektuar nga OpenAI për të vlerësuar se sa të afta janë modelet e kompanisë në identifikimin dhe shfrytëzimin e dobësive të sigurisë. Por, në vend që të përmbushte drejtpërdrejt detyrat e caktuara, sistemi gjeti mënyrën për të kapërcyer mjedisin e izoluar, siguroi lidhje me internetin dhe kërkoi zgjidhjet në sistemet e Hugging Face.

OpenAI e përkufizoi ngjarjen si një “incident kibernetik të paprecedentë”. Kompania bëri të ditur se në eksperiment u përdorën disa prej modeleve të saj, përfshirë GPT-5.6 Sol dhe një model tjetër më të avancuar, i cili vazhdon të testohet brenda kompanisë.

Për të matur kufijtë maksimalë të kapaciteteve të modeleve, gjatë provës ishin dobësuar qëllimisht mekanizmat standardë që pengojnë veprimtaritë kibernetike me rrezik të lartë. Sipas OpenAI, ky konfigurim luajti rol në zhvillimin e incidentit.

Agjenti ishte fokusuar në mënyrë të tepruar te sigurimi i zgjidhjeve për testin “ExploitGym”. Për të arritur objektivin e vendosur, ai zbuloi dhe ndërthuri disa dobësi që ndodheshin si në mjedisin kërkimor të OpenAI, ashtu edhe në infrastrukturën e Hugging Face.

https://www.dailymail.com/embed/video/3686037.html

Hapi i parë ishte identifikimi i një dobësie të panjohur më herët, të kategorisë “zero-day”, në programin ndërmjetës që shërbente për instalimin e paketave kompjuterike. Duke e shfrytëzuar atë, sistemi fitoi qasje në internet dhe më pas kaloi nga një sistem në tjetrin, ndërsa zgjeronte gradualisht privilegjet e veta.

Pasi u lidh me internetin, modeli vlerësoi se në Hugging Face mund të ruheshin modele, grupe të dhënash dhe përgjigje të testit. Përmes kredencialeve të përvetësuara dhe dobësive të tjera ende të panjohura, ai ndërtoi një rrugë që i krijoi mundësinë të ekzekutonte kod nga distanca në serverët e platformës.

Hugging Face, e njohur si një nga platformat më të mëdha globale për shpërndarjen e modeleve dhe të dhënave të inteligjencës artificiale, konfirmoi zbulimin e një qasjeje të paautorizuar në një sasi të kufizuar informacioni të brendshëm dhe në disa kredenciale të përdorura nga shërbimet e saj.

Sipas kompanisë, nuk janë konstatuar prova se modelet, grupet e të dhënave ose aplikacionet publike janë manipuluar. I paprekur rezultoi edhe zinxhiri i furnizimit me programe, ku përfshihen paketat dhe imazhet e publikuara. Ndërkohë, hetimet vazhdojnë për të sqaruar nëse incidenti ka prekur të dhëna të klientëve ose partnerëve.

Gjatë shqyrtimit të rastit, Hugging Face evidentoi mbi 17 mijë veprime të automatizuara. Për të rindërtuar rendin kronologjik të depërtimit, për të përcaktuar kredencialet e cenuara dhe për të dalluar dëmet konkrete nga veprimet mashtruese, kompania përdori gjithashtu inteligjencën artificiale.

Numri prej më shumë se 17 mijë veprimesh nuk nënkupton 17 mijë sulme të ndara dhe as 17 mijë adresa të ndryshme interneti, ndryshe nga raportimet e disa mediave. Shifra i referohet tërësisë së ngjarjeve të dokumentuara në historikun e veprimtarisë së sistemit.

Pas evidentimit të ndërhyrjes, Hugging Face korrigjoi dobësitë që kishin hapur rrugën për qasjen fillestare, rindërtoi serverët e komprometuar dhe zëvendësoi kredencialet e prekura. Po ashtu, kompania aplikoi kontrolle më të forta dhe e denoncoi incidentin pranë autoriteteve ligjzbatuese.

Nga ana e saj, OpenAI njoftoi se po punon së bashku me Hugging Face në kuadër të hetimit teknik, ndërsa ka përforcuar kontrollet në mjediset e përdorura për testime. Dobësia e panjohur që u zbulua nga modelet iu komunikua në mënyrë konfidenciale kompanisë përgjegjëse për programin e cenuar, me qëllim që ajo të rregullohet.

Thomas Wolf, themeluesi i Hugging Face, e përshkroi rastin si një sinjal të fortë paralajmërues për kompanitë e teknologjisë. Në një deklaratë për BBC-në, ai u shpreh se sulmet e udhëhequra nga inteligjenca artificiale mund të shndërrohen së shpejti në një prej formave më të përhapura të sulmeve kibernetike.

Wolf vlerësoi se shumë kompani nuk e kanë kuptuar ende ndryshimin e natyrës së kërcënimeve. Sipas tij, përballë sistemeve autonome që veprojnë me shpejtësi të madhe, mbrojtjet tradicionale mund të mos ofrojnë më siguri të mjaftueshme.

Shqetësimi kryesor lidhet me faktin se sistemi i realizoi veprimet pa marrë udhëzime të drejtpërdrejta nga njerëzit për çdo hap. Megjithatë, nuk është e saktë që ngjarja të paraqitet si një rast kur inteligjenca artificiale “u rebelua” apo veproi mbi bazën e qëllimeve të saj të pavarura.

Të dhënat e publikuara tregojnë se agjenti nuk krijoi objektiva personale dhe nuk u përpoq të sulmonte internetin në mënyrë rastësore. Ai ndoqi deri në ekstrem synimin që i ishte dhënë në test, në kushte ku një pjesë e kufizimeve mbrojtëse ishte çaktivizuar me qëllim. Pikërisht përdorimi i metodave të paparashikuara dhe të rrezikshme për përmbushjen e detyrës përbën thelbin e problemit.

Ekspertët paralajmërojnë se rasti dëshmon aftësinë aktuale të modeleve të avancuara për të zbuluar dobësi të reja, për të kombinuar teknika të ndryshme sulmi dhe për të zhvilluar operacione komplekse në disa faza, pa pasur nevojë për mbikëqyrje të pandërprerë.

OpenAI pranoi se kapacitetet e inteligjencës artificiale në fushën kibernetike po rriten me ritëm të shpejtë. Për këtë arsye, sipas kompanisë, edhe mekanizmat e sigurisë, monitorimit dhe izolimit të këtyre sistemeve duhet të përparojnë me të njëjtën shpejtësi.

Ngjarja nuk përbënte një sulm të qëllimshëm të miratuar nga OpenAI kundër Hugging Face, por ishte rezultat i një prove sigurie që tejkaloi kufijtë e parashikuar. Sidoqoftë, aftësia e një agjenti për të zbuluar vetë një rrugë nga mjedisi eksperimental drejt infrastrukturës reale të një kompanie tjetër e rendit këtë incident mes paralajmërimeve më serioze të deritanishme për rreziqet që paraqesin sistemet autonome të inteligjencës artificiale. /GazetaExpress/