Një ngjarje e pazakontë në fushën e sigurisë kibernetike ka alarmuar industrinë e inteligjencës artificiale. OpenAI ka konfirmuar se, gjatë një testimi të brendshëm, dy modele eksperimentale të ChatGPT sulmuan platformën Hugging Face.
Të lidhura
None found
Sipas BBC-së, kompania shpjegoi se modelet arritën të largoheshin nga mjedisi i izoluar i provës, i njohur si sandbox, siguruan lidhje me internetin dhe hynë në sistemet e Hugging Face. Synimi ishte marrja e të dhënave që u nevojiteshin për ta përfunduar me sukses testin.
Më 16 korrik, Hugging Face bëri të ditur se ishte goditur nga një sulm kibernetik jo i zakonshëm, i zhvilluar me ritëm mbinjerëzor dhe pothuajse pa ndërhyrje nga njerëzit. Kompania raportoi se inteligjenca artificiale kreu rreth 17 mijë veprime në më pak se dy ditë, duke depërtuar në sistemet e saj dhe duke vjedhur informacione.
Për shkak se identiteti i autorëve nuk dihej, studiuesit e Hugging Face menduan fillimisht se pas operacionit mund të qëndronte një grup kriminal kibernetik ose një aktor i përkrahur nga një shtet. Rreth një javë më pas, OpenAI pranoi se sulmi ishte realizuar nga dy modele eksperimentale të ChatGPT, të cilat ishin trajnuar posaçërisht për prova të sigurisë kibernetike.
OpenAI sqaroi se ngjarja u regjistrua në kuadër të një prove të kontrolluar, të organizuar për të matur aftësitë e modeleve në hakimin etik. Kompania njoftoi gjithashtu se po punon së bashku me Hugging Face për trajtimin e pasojave dhe se synon të publikojë një raport teknik mbi mësimet e nxjerra nga incidenti.
Rasti ka nxitur qëndrime të kundërta brenda komunitetit teknologjik. Për disa ekspertë, ai përbën një sinjal serioz për rreziqet e sistemeve të inteligjencës artificiale që po fitojnë gjithnjë e më shumë autonomi. Të tjerë janë treguar skeptikë, duke ngritur mundësinë që mënyra e paraqitjes së ngjarjes të ketë shërbyer edhe për promovimin e kapaciteteve të modeleve të OpenAI.
Dyshime për versionin e kompanisë janë shfaqur edhe në rrjetet sociale. Disa komentues e kanë interpretuar incidentin si një lëvizje marketingu për të reklamuar fuqinë e modeleve të reja të inteligjencës artificiale, ndërsa të tjerë kanë paralajmëruar për problemet që lidhen me sigurinë dhe mbajtjen nën kontroll të sistemeve të avancuara.
Kritika nga specialistët e sigurisë kibernetike ka pasur edhe për mënyrën se si OpenAI i kishte izoluar modelet eksperimentale. Dor Sarig nga Pillar Security vlerësoi se rasti dëshmon se përdorimi i sandbox-eve, i vetëm, nuk mund të sigurojë mbrojtjen e sistemeve agjentike të inteligjencës artificiale. Profesori Alan Woodward nga Universiteti i Surrey-t dhe Katie Moussouris nga Luta Security theksuan po ashtu nevojën që industria të investojë më shumë në mekanizma për kontrollin dhe përmbajtjen e këtyre teknologjive.
Edhe pse ende nuk janë sqaruar shumë elemente rreth rrethanave të sakta, incidenti shihet si një pikë e rëndësishme për evolucionin e inteligjencës artificiale dhe të sigurisë kibernetike. Ngjarja ka vendosur sërish në qendër të diskutimit ekuilibrin mes përparimit teknologjik dhe domosdoshmërisë për masa më të fuqishme sigurie gjatë krijimit të sistemeve autonome.
