Alarm në botën e teknologjisë, agjenti i IA kapërcen mjedisin e izoluar dhe hyn në internet

Gjatë një prove sigurie, një agjent i inteligjencës artificiale i krijuar nga OpenAI arriti të largohej nga ambienti i izoluar ku duhej të qëndronte, të siguronte lidhje me internetin dhe të komprometonte disa sisteme të Hugging Face, platformë që shërben për ruajtjen dhe shpërndarjen e modeleve dhe aplikacioneve të inteligjencës artificiale.

Incidenti ndodhi teksa po vlerësoheshin kapacitetet e modeleve të OpenAI për mbrojtje dhe sulme kibernetike, siç konfirmuan të dyja kompanitë.

Për të kuptuar kufijtë e këtyre sistemeve, studiuesit kishin çaktivizuar disa prej mekanizmave të zakonshëm mbrojtës. Megjithatë, agjenti kishte për detyrë të vepronte vetëm në një mjedis të kontrolluar, pa pasur mundësi të hynte në internet.

Sistemi ia doli t’i kapërcente kufizimet e laboratorit duke zbuluar një rrugë të panjohur në një program që përdorej për shkarkimin e paketave softuerike. Përmes saj, ai fitoi akses në rrjet.

Pasi u lidh me internetin, inteligjenca artificiale e identifikoi Hugging Face si një burim të mundshëm të dhënash për provën që po zhvillonte. Hetimet treguan se ajo kërkoi të siguronte informacione që do ta ndihmonin në përmbushjen e detyrës, në vend që t’i zgjidhte vetë sfidat e sigurisë.

Sipas Hugging Face, ndërhyrja u realizua përmes disa fazave teknike. Mes tyre ishin shfrytëzimi i një dobësie në sistemet e përpunimit të të dhënave, sigurimi i kredencialeve dhe lëvizja në disa prej mjediseve të brendshme të kompanisë.

Sistemet e monitorimit të Hugging Face e diktuan aktivitetin dhe mundësuan ndalimin e sulmit. Në fillim, kompania nuk e lidhi menjëherë ngjarjen me OpenAI, por konstatoi se mënyra e veprimit ngjante me atë të një agjenti autonom shumë të avancuar.

Hugging Face njoftoi se ishte përballur me një sulm kibernetik të pazakontë, të realizuar nga një sistem autonom i mbështetur në inteligjencën artificiale. Pas këtij raportimi, OpenAI e konfirmoi incidentin dhe pranoi se sulmi ishte gjeneruar nga modelet e saj gjatë testit të sigurisë.

Ekspertët e konsiderojnë rastin domethënës, pasi inteligjenca artificiale nuk veproi vetëm brenda një simulimi, por i përdori aftësitë e veta për të ndërvepruar me një sistem real.

Kompanitë sqaruan, megjithatë, se sistemi po synonte vetëm përmbushjen e objektivit të përcaktuar nga studiuesit, ndonëse për këtë zgjodhi një rrugë të palejuar dhe të paparashikuar.

Rasti ka shtuar shqetësimet rreth sigurisë së inteligjencës artificiale. Ai dëshmon se modelet më të përparuara mund të realizojnë në mënyrë të pavarur veprime të ndërlikuara, përfshirë zbulimin e dobësive, sigurimin e aksesit dhe kërkimin e alternativave për arritjen e një qëllimi.

OpenAI dhe Hugging Face kanë hapur së bashku një hetim, me synimin për të zbardhur të gjitha hollësitë e ngjarjes dhe për të përforcuar mekanizmat e sigurisë.

Incidenti vlerësohet si një sinjal paralajmërues për të ardhmen e inteligjencës artificiale. Sistemet autonome kërkojnë kontrolle dhe testime shumë më të rrepta, sepse mund të zbulojnë rrugë për të kapërcyer kufizimet e vendosura nga njerëzit.