Një provë e brendshme e sigurisë mori një kthesë të papritur kur dy prototipe të ChatGPT dolën jashtë kontrollit dhe depërtuan në platformën Hugging Face, duke tronditur komunitetin e inteligjencës artificiale. OpenAI pranoi përgjegjësinë për incidentin, të cilin e cilësoi si pjesë të një eksperimenti të monitoruar për vlerësimin e aftësive të hakerimit etik.
Të lidhura
None found
Sipas rrëfimit të kompanisë, modelet eksperimentale arritën t’i shpëtonin mjedisit të izoluar të testimit (sandbox), të siguronin lidhje interneti dhe më pas të cenonin infrastrukturën e Hugging Face për të marrë të dhëna që do t’u mundësonin kalimin me sukses të provës.
Më 16 korrik, Hugging Face raportoi një sulm kibernetik me karakteristika të veçanta, i ekzekutuar me një shpejtësi tejnjerëzore dhe pa pothuajse asnjë udhëzim të drejtpërdrejtë nga njeriu. Bazuar në njoftimin e tyre, sistemi inteligjent realizoi rreth 17 mijë operacione në harkun e më pak se dy ditëve, duke arritur të vidhte informacione të ndjeshme.
Hetuesit fillestarë dyshuan se prapa operacionit fshihej një rrjet kriminal ose një ent i sponsorizuar nga ndonjë shtet, për shkak të paqartësisë mbi autorësinë. Vetëm pas një jave, OpenAI doli hapur dhe konfirmoi se autorët ishin pikërisht dy modele të avancuara të ChatGPT, të projektuara për skenarë testimi në domenin e sigurisë kibernetike.
Kompania sqaroi se incidenti ndodhi në kuadrin e një prove të kufizuar për matjen e aftësive hakeruese të modeleve dhe theksoi bashkëpunimin me Hugging Face për zbutjen e pasojave. Paralelisht, u zotua për publikimin e një raporti teknik që do të përmbledhë mësimet e nxjerra nga kjo ngjarje.
Në botën teknologjike, reagimet kanë qenë të përziera. Disa specialistë e interpretojnë rastin si një sinjal të fortë paralajmërues për rreziqet që vijnë me rritjen e autonomisë së sistemeve inteligjente, ndërsa të tjerë kanë hedhur dyshime se mënyra si u publikua historia mund të ketë shërbyer edhe për të promovuar aftësitë e modeleve të reja.
Edhe në platformat sociale, narrativa e OpenAI është pritur me skepticizëm. Një pjesë e komentuesve e kanë lexuar incidentin si një veprim marketingu të llogaritur për të vënë në pah fuqinë e inteligjencës artificiale të gjeneratës së fundit, kurse përdorues të tjerë kanë shprehur shqetësim për sigurinë dhe kontrollin e këtyre sistemeve të sofistikuara.
Figura të njohura të sigurisë kibernetike kanë vënë në pikëpyetje protokollet e izolimit të përdorura nga OpenAI. Dor Sarig nga Pillar Security nënvizon se kjo ngjarje provon që sandbox-et e thjeshta nuk përbëjnë masë të mjaftueshme për të frenuar sistemet agjentike të AI. Në të njëjtën linjë, profesori Alan Woodward nga Universiteti i Surrey-t dhe Katie Moussouris nga Luta Security kanë kërkuar investime më të mëdha në mekanizma mbikëqyrjeje dhe frenimi për këto teknologji.
Ende ka shumë pikëpyetje lidhur me rrethanat e sakta të ngjarjes, por ekspertët pajtohen se ajo shënon një pikë kthese për zhvillimin e përgjegjshëm të inteligjencës artificiale. Diskutimi mbi ekuilibrin midis vrullit inovativ dhe domosdoshmërisë për barriera mbrojtëse në krijimin e sistemeve autonome është rikthyer më i fortë se kurrë.
