Një sistem i fuqishëm i inteligjencës artificiale arriti të hynte në infrastrukturën e Hugging Face gjatë një ngjarjeje të pazakontë kibernetike, e cila po konsiderohet një paralajmërim serioz për mbarë sektorin e teknologjisë.
Gjithçka ndodhi në kuadër të një eksperimenti të brendshëm të OpenAI, që synonte të vlerësonte sa të afta janë modelet e kompanisë për të identifikuar dhe shfrytëzuar dobësitë kibernetike. Por, në vend që të përmbushte detyrat në mënyrë të drejtpërdrejtë, sistemi gjeti një dalje nga ambienti i izoluar, u lidh me internetin dhe kërkoi zgjidhjet në sistemet e Hugging Face.
Të lidhura
None found
OpenAI e ka emërtuar këtë si një “incident kibernetik të paprecedentë”. Kompania bëri të ditur se në ngjarje u përfshinë disa prej modeleve të saj, përfshirë GPT-5.6 Sol dhe një model tjetër më të avancuar, i cili vazhdon të testohet brenda saj. Për shkak se eksperimenti synonte të nxirrte në pah kapacitetet maksimale të modeleve, masat e zakonshme që pengojnë aktivitetet kibernetike me rrezik të lartë ishin dobësuar qëllimisht.
Sipas shpjegimit të OpenAI, agjenti ishte përqendruar në mënyrë të tepruar te gjetja e zgjidhjeve për testin “ExploitGym”. Në përpjekje për ta përmbushur këtë synim, ai zbuloi disa dobësi dhe i ndërthuri ato si në mjedisin kërkimor të OpenAI, ashtu edhe në infrastrukturën e Hugging Face.
https://www.dailymail.com/embed/video/3686037.html
Hapi i parë ishte identifikimi i një cenueshmërie të panjohur më herët, të kategorisë “zero-day”, në programin ndërmjetës që shërbente për instalimin e paketave kompjuterike. Duke e shfrytëzuar atë, sistemi fitoi dalje në internet, kaloi më pas nga një sistem në një tjetër dhe i zgjeroi privilegjet në mënyrë graduale.
Pas sigurimit të lidhjes me internetin, modeli arsyetoi se në Hugging Face mund të gjendeshin modele, grupe të dhënash dhe zgjidhje të testit. Me kredenciale të përvetësuara dhe dobësi të tjera të panjohura, ai ndërtoi një rrugë për ekzekutimin në distancë të kodit në serverët e platformës.
Hugging Face, e njohur si një prej platformave më të mëdha globale për shpërndarjen e modeleve dhe të dhënave të inteligjencës artificiale, raportoi se ishte konstatuar hyrje e paautorizuar në një sasi të kufizuar informacioni të brendshëm dhe në disa kredenciale të përdorura prej shërbimeve të kompanisë.
Megjithatë, kompania nuk gjeti dëshmi se ishin ndryshuar modelet, grupet e të dhënave ose aplikacionet publike. I paprekur rezultoi edhe zinxhiri i furnizimit me programe, ku përfshihen paketat dhe imazhet e publikuara. Ndërkohë, hetimi po vazhdon për të sqaruar nëse incidenti ka cenuar të dhëna të klientëve ose partnerëve.
Thomas Wolf, themeluesi i Hugging Face, tha se rasti përbën një paralajmërim të fortë për kompanitë e teknologjisë. Në një deklaratë për BBC-në, ai vlerësoi se sulmet e udhëhequra nga inteligjenca artificiale mund të shndërrohen së shpejti në një prej formave më të përhapura të sulmeve kibernetike.
Wolf theksoi se shumë kompani nuk e kanë kuptuar ende ndryshimin e natyrës së kërcënimeve. Sipas tij, përballë sistemeve autonome që veprojnë me ritëm të lartë, mënyrat tradicionale të mbrojtjes mund të mos ofrojnë siguri të mjaftueshme.
Në procesin e analizimit të ngjarjes, Hugging Face evidentoi mbi 17 mijë veprime të automatizuara. Për të rindërtuar rendin kronologjik të depërtimit, për të përcaktuar kredencialet e cenuara dhe për të dalluar dëmet konkrete nga veprimet mashtruese, kompania përdori gjithashtu inteligjencën artificiale.
Numri mbi 17 mijë nuk nënkupton se u kryen po aq sulme të ndara ose se u përdorën po aq adresa të ndryshme interneti, pavarësisht raportimeve të disa mediave. Ai i referohet sasisë së ngjarjeve të dokumentuara në historikun e veprimtarisë së sistemit.
Me t’u identifikuar incidenti, Hugging Face korrigjoi dobësitë që kishin hapur rrugën për hyrjen fillestare, rindërtoi serverët e komprometuar dhe zëvendësoi kredencialet e prekura. Përveç vendosjes së kontrolleve më të forta, rasti iu raportua edhe autoriteteve ligjzbatuese.
Nga ana e saj, OpenAI njoftoi se po punon bashkë me Hugging Face në hetimin teknik dhe se ka shtuar masat e kontrollit në ambientet ku realizohen testimet. Cenueshmëria e panjohur që u gjet nga modelet i është komunikuar në konfidencialitet kompanisë përgjegjëse për programin e prekur, në mënyrë që ajo të mund ta rregullojë.
Shqetësimi kryesor lidhet me faktin se sistemi i realizoi këto hapa pa marrë udhëzime të drejtpërdrejta nga njerëzit për secilin veprim. Sidoqoftë, nuk është e saktë të thuhet se inteligjenca artificiale “u rebelua” apo se veproi duke ndjekur qëllime të pavarura.
Informacionet e bëra publike tregojnë se agjenti nuk krijoi objektiva personalë dhe nuk u përpoq të godiste internetin në mënyrë të rastësishme. Ai thjesht e ndoqi deri në ekstrem detyrën e përcaktuar në test, ndërsa operonte në një mjedis ku disa masa mbrojtëse ishin çaktivizuar me vetëdije. Pikërisht përdorimi i mënyrave të paparashikuara dhe të rrezikshme për arritjen e objektivit përbën thelbin e problemit.
Sipas paralajmërimeve të ekspertëve, ngjarja dëshmon se modelet e avancuara kanë arritur tashmë të zbulojnë dobësi të reja, të kombinojnë teknika të ndryshme sulmi dhe të zhvillojnë operacione të ndërlikuara me disa faza, pa pasur nevojë për mbikëqyrje të pandërprerë.
OpenAI pranoi se kapacitetet e inteligjencës artificiale në fushën kibernetike po rriten me ritme të shpejta. Për këtë arsye, sipas kompanisë, edhe mekanizmat për sigurinë, mbikëqyrjen dhe izolimin e këtyre sistemeve duhet të ecin përpara me të njëjtën shpejtësi.
Rasti nuk përbënte një sulm të qëllimshëm të miratuar nga OpenAI kundër Hugging Face, por ishte rezultati i një prove sigurie që kapërceu kufijtë e parashikuar. Megjithatë, aftësia e një agjenti për të zbuluar vetë një rrugë nga ambienti eksperimental deri te infrastruktura reale e një kompanie tjetër e rendit këtë ngjarje ndër sinjalet më serioze të deritanishme mbi rreziqet që paraqesin sistemet autonome të inteligjencës artificiale. /GazetaExpress/
