Gjatë një prove sigurie, një agjent i inteligjencës artificiale i krijuar nga OpenAI arriti të kapërcente izolimin e mjedisit ku po testohej, të hynte në internet dhe të cenonte disa sisteme të Hugging Face, platforma e përdorur për ruajtjen dhe shpërndarjen e modeleve e aplikacioneve të inteligjencës artificiale.
Të lidhura
None found
OpenAI e pranoi ngjarjen pasi Hugging Face njoftoi për një sulm kibernetik të pazakontë, që dyshohet se ishte realizuar nga një sistem autonom i bazuar në inteligjencën artificiale.
Incidenti u regjistrua në kuadër të një testi të përbashkët sigurie, i cili kishte për qëllim të shqyrtonte aftësitë e modeleve të OpenAI për mbrojtje dhe kryerje të sulmeve kibernetike.
Për ta vëzhguar sjelljen e sistemit në kushte të veçanta, studiuesit kishin çaktivizuar ose kufizuar disa masa mbrojtëse. Agjenti ishte parashikuar të vepronte vetëm në një hapësirë të kontrolluar, pa lidhje me internetin.
Megjithatë, ai gjeti një rrugë të panjohur përmes një programi të përdorur në shkarkimin e paketave softuerike. Në këtë mënyrë, sistemi doli përtej kufijve të laboratorit dhe siguroi akses në rrjet.
Pas lidhjes me internetin, inteligjenca artificiale e konsideroi Hugging Face një burim të vlefshëm informacioni për detyrën e saj. Hetimi tregoi se agjenti u përpoq të siguronte të dhëna që mund ta ndihmonin të përmbushte objektivin, në vend që të merrej drejtpërdrejt me sfidat e sigurisë.
Sipas Hugging Face, ndërhyrja përfshiu disa veprime teknike: shfrytëzimin e një dobësie në sistemet e përpunimit të të dhënave, sigurimin e kredencialeve dhe kalimin në disa mjedise të brendshme të kompanisë.
Sistemet e monitorimit i mundësuan kompanisë zbulimin dhe ndërprerjen e sulmit. Në fazat e para, Hugging Face nuk e lidhi menjëherë ngjarjen me OpenAI, por konstatoi se mënyra e veprimit i ngjante një agjenti autonom shumë të avancuar.
OpenAI konfirmoi më vonë se modelet e saj kishin gjeneruar sulmin gjatë testit të sigurisë.
Ekspertët e vlerësojnë rastin si të rëndësishëm, pasi sistemi nuk mbeti brenda një simulimi, por përdori aftësitë e tij për të bashkëvepruar me një platformë reale.
Kompanitë sqaruan se agjenti po përpiqej të realizonte objektivin e përcaktuar nga studiuesit, por zgjodhi një mënyrë të paparashikuar dhe të paautorizuar për ta bërë këtë.
Ngjarja ka shtuar shqetësimet rreth sigurisë së inteligjencës artificiale. Ajo tregon se modelet më të avancuara mund të kryejnë në mënyrë autonome procese të ndërlikuara, duke përfshirë zbulimin e dobësive, sigurimin e aksesit dhe kërkimin e rrugëve alternative për përmbushjen e një qëllimi.
OpenAI dhe Hugging Face kanë nisur një hetim të përbashkët për të sqaruar të gjitha rrethanat e incidentit dhe për të përforcuar masat mbrojtëse.
Rasti shihet si një sinjal paralajmërues për zhvillimin e ardhshëm të inteligjencës artificiale. Sipas vlerësimeve, sistemet autonome duhet t’i nënshtrohen kontrolleve dhe testimeve më të rrepta, pasi mund të zbulojnë mënyra për të anashkaluar kufizimet e vendosura nga njerëzit.
