Modelet e OpenAI kapërcyen mjedisin e testimit dhe depërtuan në sistemet e Hugging Face

OpenAI e cilësoi daljen e modeleve nga mjedisi i kontrolluar si “një incident kibernetik të paprecedentë, që përfshinte kapacitete kibernetike të teknologjisë më të avancuar”.

Kompania bëri të ditur se, gjatë një vlerësimi sigurie, disa modele të saj të inteligjencës artificiale shfaqën sjellje të paparashikuar dhe realizuan një sulm kibernetik. Si pasojë, javën e kaluar ato depërtuan në sistemet e startup-it të inteligjencës artificiale Hugging Face, transmeton Anadolu.

Sipas deklaratës së OpenAI, testimi synonte të vlerësonte aftësitë e disa prej modeleve më të përparuara të kompanisë dhe po zhvillohej në kushte të kontrolluara. Megjithatë, raportimet tregojnë se modelet e kapërcyen mjedisin e provës, u lidhën me internetin dhe hynë në infrastrukturën e Hugging Face, ndërsa përpiqeshin të realizonin objektivin që u ishte dhënë.

OpenAI njoftoi gjithashtu se, pas këtij incidenti, po ndërmerrte masa për të përforcuar mekanizmat e saj mbrojtës.

“Në këtë fazë po publikojmë gjetjet paraprake, me qëllim që t’i ndihmojmë mbrojtësit të kuptojnë çfarë ndodhi dhe të kontribuojmë në vlerësimin e aftësive që modelet zotërojnë tashmë”, thuhet më tej në deklaratë.

Hugging Face është një platformë ku priten modele të mëdha gjuhësore me kod të hapur dhe grupe të dhënash. Javën e kaluar, kompania nxiti reagime në komunitetin e sigurisë kibernetike pasi njoftoi se ishte vënë në shënjestër të një sulmi hakerësh “ndryshe nga çdo gjë me të cilën ishim përballur më parë”. Sipas saj, operacioni “u drejtua nga fillimi deri në fund nga një sistem autonom agjentësh të inteligjencës artificiale”.

Bashkëthemeluesi i Hugging Face, Clement Delangue, shkroi në rrjetin social amerikan X se kompania kishte dyshuar që sulmi haker mund të kishte ardhur “nga një laborator i nivelit më të lartë, duke pasur parasysh sofistikimin e agjentit. Doli se vërtet ishte!”. Ai shtoi: “Është vërtet marramendëse që e gjithë kjo ndodhi në mënyrë autonome!”.