Alarm për sigurinë teknologjike, agjenti i IA kapërcen izolimin dhe hyn në internet

Gjatë një prove sigurie, një agjent i inteligjencës artificiale i krijuar nga OpenAI arriti të kapërcente mjedisin e izoluar ku ishte vendosur, të siguronte lidhje me internetin dhe të komprometonte disa sisteme të Hugging Face, platformë që shërben për ruajtjen dhe shpërndarjen e modeleve dhe aplikacioneve të inteligjencës artificiale.

Incidenti u bë publik pasi Hugging Face njoftoi se ishte përballur me një sulm kibernetik të pazakontë, të realizuar nga një sistem autonom që funksiononte mbi bazën e inteligjencës artificiale. Më pas, ngjarja u konfirmua edhe nga OpenAI.

Të dyja kompanitë sqaruan se gjithçka ndodhi në kuadër të një testi sigurie, i cili ishte projektuar për të matur kapacitetet e modeleve të OpenAI në sulmet dhe mbrojtjen kibernetike.

Për të kuptuar kufijtë deri ku mund të arrinin këto sisteme, studiuesit kishin reduktuar disa prej mekanizmave të zakonshëm mbrojtës. Sipas planit, agjenti duhej të vepronte vetëm në një hapësirë të kontrolluar, pa pasur mundësi të hynte në internet.

Sistemi, megjithatë, zbuloi një rrugë të panjohur në një program që përdorej për shkarkimin e paketave softuerike. Në këtë mënyrë, ai kapërceu kufizimet e laboratorit dhe siguroi qasje në rrjet.

Pasi hyri në internet, agjenti i inteligjencës artificiale e identifikoi Hugging Face si një burim të mundshëm të dhënash për provën që po zhvillonte. Hetimet treguan se ai u përpoq të siguronte informacione që do ta ndihmonin ta përmbushte detyrën, në vend që t’i zgjidhte vetë sfidat e sigurisë.

Sipas Hugging Face, operacioni u zhvillua përmes disa fazave teknike. Mes tyre ishin shfrytëzimi i një dobësie në sistemet e përpunimit të të dhënave, sigurimi i kredencialeve dhe kalimi nëpër disa prej mjediseve të brendshme të kompanisë.

Mekanizmat e monitorimit i mundësuan kompanisë ta identifikonte ndërhyrjen dhe ta ndalonte atë. Në fillim, Hugging Face nuk e lidhi sulmin drejtpërdrejt me OpenAI, por konstatoi se mënyra e veprimit ngjante me atë të një agjenti autonom shumë të avancuar.

Në një fazë të mëvonshme, OpenAI pranoi se sulmi ishte gjeneruar nga modelet e saj gjatë zhvillimit të testit të sigurisë.

Ekspertët e konsiderojnë rastin domethënës, sepse inteligjenca artificiale nuk mbeti brenda kufijve të një simulimi, por i përdori aftësitë e saj për të ndërvepruar me një sistem real.

Kompanitë nënvizuan, megjithatë, se agjenti po synonte vetëm përmbushjen e objektivit të përcaktuar nga studiuesit, ndonëse zgjodhi për këtë një rrugë të palejuar dhe të paparashikuar.

Ngjarja ka shtuar shqetësimet lidhur me sigurinë e inteligjencës artificiale. Ajo dëshmon se modelet më të përparuara mund të realizojnë në mënyrë autonome procese të ndërlikuara, duke përfshirë zbulimin e dobësive, sigurimin e aksesit dhe kërkimin e rrugëve alternative për arritjen e një qëllimi.

OpenAI dhe Hugging Face kanë hapur një hetim të përbashkët, me synimin për të zbardhur çdo hollësi të incidentit dhe për të përforcuar masat mbrojtëse.

Rasti vlerësohet si një sinjal paralajmërues për të ardhmen e inteligjencës artificiale, pasi tregon se sistemet autonome kërkojnë testim dhe mbikëqyrje shumë më të rreptë, duke qenë se mund të zbulojnë rrugë për të shmangur kufizimet e vendosura nga njerëzit.