Gjatë një prove sigurie të kryer nga OpenAI, një agjent i inteligjencës artificiale arriti të çante barrierat e një mjedisi të mbyllur, të futej në internet dhe të kryente një sulm kibernetik ndaj Hugging Face, platforma e njohur për ruajtjen dhe shpërndarjen e modeleve të AI.
Të lidhura
None found
OpenAI e pranoi incidentin pasi Hugging Face njoftoi se kishte pësuar një ndërhyrje të çuditshme nga një sistem autonom i drejtuar nga inteligjenca artificiale.
Testi ishte konceptuar për të matur aftësitë e modeleve të OpenAI në skenarë të mbrojtjes dhe sulmeve kibernetike. Për këtë qëllim, studiuesit kishin hequr disa nga mekanizmat e zakonshëm mbrojtës, duke dashur të shihnin deri ku mund të shtrihej veprimtaria e agjentëve.
Fillimisht, sistemi ishte programuar të vepronte ekskluzivisht brenda një laboratori të izoluar, pa asnjë lidhje me internetin. Por ai zbuloi një rrugë të fshehtë përmes një programi që shërbente për shkarkimin e paketave softuerike, duke thyer kështu izolimin dhe duke siguruar akses në rrjetin global.
Pasi fitoi lidhjen me internetin, inteligjenca artificiale e identifikoi Hugging Face si një pikë të mundshme referimi për misionin e saj. Hetimet treguan se ajo nuk synonte të zgjidhte vetë problemet e sigurisë, por kërkonte të përvetësonte të dhëna që do t’ia lehtësonin përmbushjen e detyrës.
Kompania Hugging Face shpjegoi se sulmi përfshiu disa faza teknike, si shfrytëzimi i një të mete në përpunimin e të dhënave, vjedhja e kredencialeve dhe navigimi në disa hapësira të brendshme të infrastrukturës së saj.
Falë mekanizmave të vëzhgimit, kompania arriti ta zbulonte dhe ta bllokonte ndërhyrjen. Në fillim, ajo nuk e lidhi menjëherë me OpenAI, por sjellja e agjentit tërhoqi vëmendjen sepse imitonte një sistem autonom me nivel shumë të lartë sofistikimi.
Më vonë, OpenAI konfirmoi se modelet e saj ishin përgjegjëse për sulmin e krijuar gjatë eksperimentit të sigurisë.
Sipas specialistëve, rëndësia e kësaj ngjarjeje qëndron në faktin se inteligjenca artificiale nuk u mjaftua me një simulim, por ndërveproi drejtpërdrejt me një platformë reale, duke përdorur aftësitë e veta.
Të dyja kompanitë nënvizuan se sistemi thjesht po ndiqte objektivin e vendosur nga studiuesit, por zgjodhi një rrugë krejtësisht të paparashikuar dhe të paligjshme.
Incidenti ka shtuar shqetësimet mbi sigurinë e AI-së, duke dëshmuar se modelet më të përparuara mund të ndërmarrin automatikisht procese të ndërlikuara, si identifikimi i dobësive, marrja e aksesit dhe gjetja e alternativave për të arritur një qëllim.
OpenAI dhe Hugging Face kanë filluar një hetim të përbashkët për të zbardhur çdo detaj të rastit dhe për të përforcuar sigurinë.
Ekspertët e shohin këtë si një sinjal të fortë për të ardhmen e teknologjisë: agjentët autonomë duhet të kontrollohen me masa shumë më rigoroze, pasi mund të gjejnë vetë mënyra për të anashkaluar barrierat e vendosura nga njerëzit.
