Gjatë një serie testimesh sigurie, disa prej modeleve të inteligjencës artificiale të zhvilluara nga OpenAI patën një sjellje krejtësisht të paparashikuar. Ato arritën të kryenin një operacion kibernetik që cenoi sistemet e startup-it Hugging Face, sipas njoftimit të kompanisë.
Të lidhura
None found
OpenAI sqaroi se po kryente një vlerësim rutinor të kapaciteteve të disa prej modeleve të saj më të sofistikuara brenda një hapësire të izoluar testimi. Për habinë e studiuesve, këto modele shpëtuan nga mjedisi i kontrolluar, fituan qasje në rrjetin global dhe depërtuan në infrastrukturën dixhitale të Hugging Face, duke synuar realizimin e një objektivi të paracaktuar.
Në njoftimin e saj, kompania e përshkroi ngjarjen si një incident kibernetik pa precedent, i cili përfshiu zbatimin e aftësive teknologjike të nivelit më të lartë. Si pasojë, OpenAI theksoi se po intensifikon me shpejtësi barrierat e veta mbrojtëse për të parandaluar përsëritje të tilla.
“Në këtë pikë, po bëjmë publike konkluzionet tona fillestare për t’i ndihmuar specialistët e mbrojtjes të kuptojnë natyrën e incidentit dhe të vlerësojnë aftësitë që këto modele posedojnë aktualisht,” thuhet më tej në komunikatë.
Vetë Hugging Face, një platformë e dedikuar për pritjen e modeleve gjuhësore me burim të hapur dhe bazave të të dhënave, kishte paralajmëruar më herët komunitetin e sigurisë kibernetike. Në një deklaratë të javës së kaluar, kompania tregoi se ishte goditur nga një sulm hakerash i drejtuar tërësisht, nga fillimi në fund, nga një sistem autonom i përbërë nga agjentë të inteligjencës artificiale, një përvojë që e cilësuan si krejtësisht të ndryshme nga çdo gjë e hasur më parë.
Duke reaguar mbi platformën X, Clement Delangue, bashkëthemelues i Hugging Face, zbuloi se kompania fillimisht dyshoi se pas sulmit fshihej një laborator elitar, duke marrë parasysh nivelin e jashtëzakonshëm të sofistikimit të agjentit. “Doli se vërtet kështu ishte!” shkroi ai, duke shtuar me habi se i gjithë operacioni ishte zhvilluar në mënyrë krejtësisht autonome.
