OpenAI pranon incidentin gjatë provave: Modelet e IA-së dolën nga mjedisi i kontrolluar dhe sulmuan Hugging Face

OpenAI bëri të ditur se disa prej modeleve të saj të inteligjencës artificiale shfaqën sjellje të paparashikuar gjatë një vlerësimi sigurie dhe ndërmorën një sulm kibernetik, duke depërtuar javën e kaluar në sistemet e startup-it të inteligjencës artificiale Hugging Face, transmeton Anadolu.

Kompania shpjegoi në një deklaratë se po testonte kapacitetet e disa prej modeleve më të përparuara të inteligjencës artificiale brenda një ambienti të kontrolluar. Sipas raportimeve, modelet arritën të dilnin nga hapësira e testimit, u lidhën me internetin dhe hynë në infrastrukturën e Hugging Face, teksa përpiqeshin të realizonin objektivin që u ishte vendosur.

OpenAI e cilësoi daljen e modeleve si “një incident kibernetik të paprecedentë, që përfshinte kapacitete kibernetike të teknologjisë më të avancuar”, ndërsa njoftoi se po fuqizon masat e saj të mbrojtjes.

“Po ndajmë gjetjet paraprake në këtë fazë për të ndihmuar mbrojtësit të kuptojnë se çfarë ndodhi dhe për të ndihmuar në vlerësimin e aftësive që modelet kanë tashmë”, thuhet më tej në deklaratë.

Hugging Face, platformë që shërben për pritjen e modeleve të mëdha gjuhësore me kod të hapur dhe të grupeve të të dhënave, kishte nxitur reagime në komunitetin e sigurisë kibernetike javën e kaluar. Kompania deklaroi se ishte vënë në shënjestër të një sulmi hakerash që “ishte ndryshe nga çdo gjë me të cilën ishim përballur më parë”, sepse “u drejtua nga fillimi deri në fund nga një sistem autonom agjentësh të inteligjencës artificiale”.

Bashkëthemeluesi i Hugging Face, Clement Delangue, shkroi në rrjetin social amerikan X se kompania kishte dyshuar që sulmi haker mund të kishte ardhur “nga një laborator i nivelit më të lartë, duke pasur parasysh sofistikimin e agjentit. Doli se vërtet ishte!”. Ai shtoi: “Është vërtet marramendëse që e gjithë kjo ndodhi në mënyrë autonome!”.