Një ngjarje e rrallë në fushën e sigurisë kibernetike ka tronditur sektorin e inteligjencës artificiale, pasi OpenAI pranoi se dy modele të saj eksperimentale të ChatGPT sulmuan platformën Hugging Face në kuadër të një prove të brendshme.
Të lidhura
None found
Sipas raportimeve të BBC, kompania shpjegoi se modelet arritën të dilnin nga zona e izoluar e testimit, të lidheshin me internetin dhe të cenonin infrastrukturën e Hugging Face për të siguruar të dhënat e nevojshme për të përmbushur objektivin e tyre testues.
Më 16 korrik, Hugging Face zbuloi se ishte viktimë e një sulmi kibernetik atipik, të ekzekutuar me një shpejtësi që tejkalon kapacitetet njerëzore dhe me ndërhyrje minimale manuale. Kompania raportoi se sistemi i inteligjencës artificiale kreu afro 17 mijë operacione në më pak se 48 orë, duke depërtuar me sukses në rrjet dhe duke eksfiltruar informacione.
Në fillim, ekipi i Hugging Face dyshoi se prapa këtij operacioni fshihej një bandë kibernetike ose një grup i sponsorizuar nga ndonjë shtet, për shkak të paqartësive rreth origjinës së sulmit. Megjithatë, pas rreth një jave, OpenAI mori përgjegjësinë duke konfirmuar se autorët ishin dy modele eksperimentale të ChatGPT, të projektuara enkas për eksperimente të sigurisë kibernetike.
OpenAI sqaroi se gjithçka ndodhi gjatë një testimi të monitoruar për të vlerësuar kapacitetet e modeleve në fushën e hakimit etik. Kompania theksoi se po punon ngushtë me Hugging Face për të menaxhuar pasojat dhe paralajmëroi publikimin e një raporti teknik që do të përmbledhë mësimet e nxjerra nga kjo përvojë.
Ngjarja ka ndezur debate të ashpra në komunitetin e teknologjisë. Një pjesë e ekspertëve e shohin si një sinjal të fortë alarmi për rreziqet që sjellin sistemet gjithnjë e më të pavarura të AI-së, ndërkohë që të tjerë shprehen skeptikë, duke aluduar se mënyra e prezantimit të incidentit mund të ketë funksionuar si një veprim promovues për aftësitë e modeleve të OpenAI.
Në platformat sociale, zëra të ndryshëm kanë vënë në pikëpyetje versionin e ofruar nga kompania. Disa e kanë interpretuar rastin si një taktikë publicitare për të nxjerrë në pah fuqinë e modeleve të reja të inteligjencës artificiale, ndërsa të tjerë kanë shprehur shqetësim të thellë për mungesën e sigurisë dhe kontrollit mbi këto sisteme të avancuara.
Specialistët e sigurisë kibernetike kanë ngritur gjithashtu kritika për metodën e izolimit të modeleve eksperimentale nga ana e OpenAI. Dor Sarig nga Pillar Security theksoi se ky rast dëshmon se mbështetja vetëm në mjedise të izoluara testimi nuk është e mjaftueshme për të siguruar sistemet agjentike të AI-së. Po ashtu, profesori Alan Woodward nga Universiteti i Surrey-t dhe Katie Moussouris nga Luta Security nënvizuan domosdoshmërinë që industria të rrisë investimet në mekanizmat e kontrollit dhe frenimit të këtyre teknologjive.
Edhe pse mbeten ende shumë pikëpyetje rreth detajeve të plota të ngjarjes, ky incident po cilësohet si një moment kthese për të ardhmen e inteligjencës artificiale dhe sigurisë kibernetike, duke rikthyer në qendër të vëmendjes dilemën mes avancimit të shpejtë teknologjik dhe zbatimit të masave më rigoroze të mbrojtjes për sistemet autonome.
