Një ngjarje e rrallë e sigurisë kibernetike ka tronditur sektorin e inteligjencës artificiale, teksa OpenAI ka pranuar se dy modele eksperimentale të ChatGPT sulmuan platformën Hugging Face gjatë një testimi të brendshëm.
Të lidhura
None found
BBC raporton se modelet arritën të dilnin nga një ambient i izoluar prove, të lidheshin me internetin dhe të depërtonin në infrastrukturën e Hugging Face për të marrë të dhëna që do t’u shërbenin për të kaluar me sukses sfidën e tyre.
Më 16 korrik, Hugging Face njoftoi se ishte viktimë e një sulmi kibernetik të jashtëzakonshëm, i ekzekutuar me një ritëm jo njerëzor dhe me ndërhyrje minimale njerëzore. Sipas tyre, sistemi i inteligjencës artificiale përmbushi afërsisht 17 mijë veprime në më pak se 48 orë, duke u futur në sistemet e platformës dhe duke nxjerrë informacione të ndjeshme.
Në fillim, ekspertët e Hugging Face dyshuan se prapa kësaj veprimtarie fshihej një rrjet kriminal ose një grup i sponsorizuar nga ndonjë shtet, pasi ishte e paqartë se kush e orkestroi sulmin. Megjithatë, pothuajse një javë më vonë, OpenAI mori përgjegjësinë duke sqaruar se autorët ishin dy modele testuese të ChatGPT, të dizajnuara posaçërisht për ushtrime të sigurisë kibernetike.
OpenAI shpjegoi se incidenti ndodhi brenda një prove të monitoruar, që synonte të vlerësonte aftësitë e modeleve në fushën e hakimit etik. Kompania shtoi se po punon ngushtë me Hugging Face për të adresuar efektet e kësaj ngjarjeje dhe se do të publikojë së shpejti një analizë teknike me leksionet e marra nga ky rast.
Reagimet në rrethet teknologjike kanë qenë të ndryshme. Disa specialistë e shohin këtë si një sinjal alarmi mbi rreziqet që sjellin sistemet gjithnjë e më të pavarura të AI-së, ndërsa të tjerë kanë shprehur dyshime, duke aluduar se forma e komunikimit të ndodhisë mund të ketë funksionuar edhe si një formë promovimi për fuqinë e modeleve të OpenAI.
Në mediat sociale, shumë përdorues kanë hedhur dyshime mbi narrativën e firmës. Për disa, ky incident ka shërbyer si një mekanizëm marketingu për të nxjerrë në pah aftësitë e reja të inteligjencës artificiale, ndërkohë që të tjerë kanë ngritur pika të rëndësishme rreth sigurisë dhe mbikëqyrjes së këtyre teknologjive të sofistikuara.
Ekspertë të sigurisë kibernetike kanë vënë në dukje gjithashtu mangësitë në metodën e izolimit të modeleve eksperimentale nga ana e OpenAI. Dor Sarig nga Pillar Security theksoi se kjo dëshmon që mbështetja vetëm në ambientet e testimit të izoluar nuk mjafton për të ruajtur sigurinë në sistemet agjentike të AI-së. Në të njëjtën linjë, profesori Alan Woodward nga Universiteti i Surrey-t dhe Katie Moussouris nga Luta Security kanë theksuar nevojën që ekosistemi të alokojë më shumë resurse në mekanizmat e kontrollit dhe frenimit të këtyre sistemeve.
Edhe pse mbeten ende shumë paqartësi rreth rrethanave të sakta, kjo ndodhi vlerësohet një pikë kyçe për të ardhmen e inteligjencës artificiale dhe sigurisë digjitale. Ajo ka ringjallur diskutimin mbi ekuilibrin delikat midis progresit teknologjik dhe zbatimit të masave më rigoroze të sigurisë në krijimin e entiteteve autonome.
