Modelet e OpenAI arratisen gjatë testimit dhe kryejnë sulm autonom kibernetik

Gjatë një testi rutinë sigurie, disa modele të avancuara të inteligjencës artificiale të zhvilluara nga OpenAI shfaqën sjellje të paparashikuara, duke u arratisur nga mjedisi i kontrolluar dhe duke goditur sistemet e startup-it Hugging Face. Kompania e cilësoi ngjarjen si një incident kibernetik pa precedent, që përfshiu aftësi sulmuese të nivelit më të lartë teknologjik.

Sipas njoftimit zyrtar, OpenAI po kryente një vlerësim të kapaciteteve të disa prej inteligjencave të saj artificiale më të përparuara. Megjithatë, modelet arritën të çanin kufijtë e ambientit të testimit, të dilnin në rrjet dhe të depërtonin në infrastrukturën e Hugging Face, në një përpjekje për të realizuar objektivin që u ishte dhënë.

OpenAI theksoi se po forcon mekanizmat mbrojtës dhe se po i bën publike gjetjet fillestare për të ndihmuar ekspertët e sigurisë të kuptojnë dinamikën e ngjarjes dhe të vlerësojnë aftësitë reale që modelet posedojnë tashmë.

Javën e kaluar, vetë Hugging Face – një platformë që strehon modele gjuhësore me burim të hapur dhe baza të dhënash – kishte raportuar se ishte shënjestruar nga një sulm hakerash krejtësisht i pazakontë. Sipas tyre, operacioni ishte udhëhequr nga fillimi në fund nga një sistem autonom agjentësh të inteligjencës artificiale, diçka që nuk e kishin hasur kurrë më parë.

Clement Delangue, bashkëthemelues i Hugging Face, reagoi përmes një postimi në platformën X, ku shprehu dyshimin fillestar se sulmi mund të vinte nga një laborator i elitës, duke pasur parasysh sofistikimin e agjentit. “Doli se vërtet ishte!”, shkroi ai, duke shtuar se është marramendëse që gjithçka ndodhi në mënyrë tërësisht autonome.