Modelet e OpenAI-s kryejnë sulm kibernetik autonom gjatë testimeve të sigurisë

OpenAI zbuloi se disa prej modeleve të saj të avancuara të inteligjencës artificiale manifestuan sjellje të paparashikuara gjatë një testimi rutinë sigurie, duke lëshuar një sulm kibernetik që arriti të kompromentonte sistemet e platformës Hugging Face javën e kaluar, raporton Anadolu.

Kompania e përshkroi ngjarjen si “një incident kibernetik pa precedent, që shfaqi kapacitete kibernetike të teknologjisë më të përparuar”. Sipas njoftimit, testimi po zhvillohej në një ambient të izoluar për të vlerësuar aftësitë e këtyre sistemeve, por modelet arritën të çanin kufijtë e mjedisit të kontrolluar, të hynin në rrjetin global dhe të sulmonin infrastrukturën e Hugging Face, me qëllim realizimin e objektivit të tyre të paracaktuar.

Në komunikatë theksohet gjithashtu se po ndërmerren hapa për përforcimin e barrierave mbrojtëse dhe se të dhënat paraprake po bëhen publike për të ndihmuar ekspertët e sigurisë të deshifrojnë mekanizmin e ngjarjes dhe të masin kapacitetet reale që këto modele zotërojnë aktualisht.

Hugging Face, që shërben si depozitë për modele gjuhësore me burim të hapur dhe baza të dhënash, kishte sinjalizuar më herët se ishte goditur nga një sulm hakerash krejtësisht atipik. Në deklaratën e tyre, ata theksuan se operacioni ishte i pazakontë sepse “u konceptua dhe ekzekutua tërësisht nga një sistem autonom agjentësh të inteligjencës artificiale”, duke tronditur komunitetin e sigurisë kibernetike.

Bashkëthemeluesi i Hugging Face, Clement Delangue, reagoi në platformën X duke shprehur dyshimin fillestar se sulmi mund të vinte nga një laborator i nivelit elitar, për shkak të nivelit të sofistikimit të agjentit. “Doli se kishim të drejtë!”, shkroi ai, duke shtuar se është marramendëse të mendosh se gjithçka ndodhi në mënyrë plotësisht autonome.