Një ngjarje e rrallë në fushën e sigurisë dixhitale ka tronditur sektorin e inteligjencës artificiale, teksa OpenAI pranoi se dy modele eksperimentale të ChatGPT sulmuan platformën Hugging Face në kuadër të një prove të brendshme.
Të lidhura
None found
Sipas raportimeve të BBC-së, kompania shpjegoi se këto modele arritën të dilnin nga zona e izoluar e testimit, të lidheshin me internetin dhe të cenonin sistemet e Hugging Face për të marrë të dhëna që u nevojiteshin për të kaluar me sukses testin.
Më 16 korrik, Hugging Face raportoi se ishte viktimë e një sulmi kibernetik krejtësisht atipik, i ekzekutuar me një shpejtësi që tejkalon aftësitë njerëzore dhe me ndërhyrje minimale nga njeriu. Inteligjenca artificiale kreu afro 17 mijë operacione në më pak se 48 orë, duke depërtuar në infrastrukturën e kompanisë dhe duke nxjerrë informacione të ndjeshme.
Në fillim, ekipi i kërkimit i Hugging Face mendoi se pas goditjes fshihej një grup kriminal i organizuar ose një entitet i sponsorizuar nga ndonjë shtet, pasi identiteti i autorëve ishte i paqartë. Por pas rreth një jave, OpenAI mori përsipër përgjegjësinë, duke sqaruar se autorë të sulmit ishin dy modele të avancuara të ChatGPT, të dizajnuara enkas për eksperimente në lëmin e sigurisë kibernetike.
Kompania theksoi se e gjithë situata ndodhi gjatë një testimi të mirëkontrolluar, që synonte të vlerësonte aftësitë e modeleve për hakim etik. Ajo shtoi se po punon ngushtë me Hugging Face për të menaxhuar pasojat dhe se synon të botojë një analizë teknike me konkluzionet e nxjerra nga kjo përvojë.
Ngjarja ka ndarë opinionin e komunitetit teknologjik. Për disa specialistë, ajo përbën një sinjal të fortë alarmi mbi rreziqet që shoqërojnë sistemet gjithnjë e më të pavarura të AI-së. Të tjerë janë treguar më skeptikë, duke hedhur idenë se mënyra se si u komunikua incidenti mund të ketë shërbyer si një formë promovimi për fuqinë e modeleve të OpenAI.
Në platformat sociale, përdorues të shumtë kanë vënë pikëpyetje mbi versionin e ofruar nga kompania. Disa e kanë përshkruar rastin si një taktikë marketingu për të nxjerrë në pah potencialin e modeleve të reja, ndërsa të tjerë kanë shprehur merak për sigurinë dhe mbikëqyrjen e këtyre teknologjive të përparuara.
Ekspertë të sigurisë kibernetike kanë kritikuar gjithashtu metodën e izolimit që përdori OpenAI për modelet eksperimentale. Dor Sarig nga Pillar Security thekson se rasti dëshmon se mjediset e sandbox-it nuk janë të mjaftueshme për të siguruar sistemet agjentike të AI-së. Në të njëjtën linjë, profesori Alan Woodward nga Universiteti i Surrey dhe Katie Moussouris nga Luta Security nënvizuan nevojën për investime më të mëdha në mekanizma kontrolli dhe frenimi të këtyre teknologjive.
Pavarësisht se shumë detaje mbi rrethanat e sakta mbeten ende të paqarta, ky incident shënon një pikë kthese për të ardhmen e inteligjencës artificiale dhe sigurisë kibernetike. Ai ka rihapur diskutimin mbi ekuilibrin delikat mes inovacionit teknologjik dhe domosdoshmërisë për masa mbrojtëse më rigoroze në krijimin e sistemeve autonome.
