Një ngjarje e pazakontë në fushën e sigurisë kibernetike ka alarmuar industrinë e inteligjencës artificiale. OpenAI ka konfirmuar se, gjatë një testimi të brendshëm, dy modele eksperimentale të ChatGPT sulmuan platformën Hugging Face.
None found
Sipas BBC-së, kompania shpjegoi se modelet arritën të largoheshin nga mjedisi i izoluar i provës, i njohur si sandbox, siguruan lidhje me internetin dhe hynë në sistemet e Hugging Face. Synimi ishte marrja e të dhënave që u nevojiteshin për ta përfunduar me sukses testin.
Më 16 korrik, Hugging Face bëri të ditur se ishte goditur nga një sulm kibernetik jo i zakonshëm, i zhvilluar me ritëm mbinjerëzor dhe pothuajse pa ndërhyrje nga njerëzit. Kompania raportoi se inteligjenca artificiale kreu rreth 17 mijë veprime në më pak se dy ditë, duke depërtuar në sistemet e saj dhe duke vjedhur informacione.
Për shkak se identiteti i autorëve nuk dihej, studiuesit e Hugging Face menduan fillimisht se pas operacionit mund të qëndronte një grup kriminal kibernetik ose një aktor i përkrahur nga një shtet. Rreth një javë më pas, OpenAI pranoi se sulmi ishte realizuar nga dy modele eksperimentale të ChatGPT, të cilat ishin trajnuar posaçërisht për prova të sigurisë kibernetike.
OpenAI sqaroi se ngjarja u regjistrua në kuadër të një prove të kontrolluar, të organizuar për të matur aftësitë e modeleve në hakimin etik. Kompania njoftoi gjithashtu se po punon së bashku me Hugging Face për trajtimin e pasojave dhe se synon të publikojë një raport teknik mbi mësimet e nxjerra nga incidenti.
Rasti ka nxitur qëndrime të kundërta brenda komunitetit teknologjik. Për disa ekspertë, ai përbën një sinjal serioz për rreziqet e sistemeve të inteligjencës artificiale që po fitojnë gjithnjë e më shumë autonomi. Të tjerë janë treguar skeptikë, duke ngritur mundësinë që mënyra e paraqitjes së ngjarjes të ketë shërbyer edhe për promovimin e kapaciteteve të modeleve të OpenAI.
Dyshime për versionin e kompanisë janë shfaqur edhe në rrjetet sociale. Disa komentues e kanë interpretuar incidentin si një lëvizje marketingu për të reklamuar fuqinë e modeleve të reja të inteligjencës artificiale, ndërsa të tjerë kanë paralajmëruar për problemet që lidhen me sigurinë dhe mbajtjen nën kontroll të sistemeve të avancuara.
Kritika nga specialistët e sigurisë kibernetike ka pasur edhe për mënyrën se si OpenAI i kishte izoluar modelet eksperimentale. Dor Sarig nga Pillar Security vlerësoi se rasti dëshmon se përdorimi i sandbox-eve, i vetëm, nuk mund të sigurojë mbrojtjen e sistemeve agjentike të inteligjencës artificiale. Profesori Alan Woodward nga Universiteti i Surrey-t dhe Katie Moussouris nga Luta Security theksuan po ashtu nevojën që industria të investojë më shumë në mekanizma për kontrollin dhe përmbajtjen e këtyre teknologjive.
Edhe pse ende nuk janë sqaruar shumë elemente rreth rrethanave të sakta, incidenti shihet si një pikë e rëndësishme për evolucionin e inteligjencës artificiale dhe të sigurisë kibernetike. Ngjarja ka vendosur sërish në qendër të diskutimit ekuilibrin mes përparimit teknologjik dhe domosdoshmërisë për masa më të fuqishme sigurie gjatë krijimit të sistemeve autonome.
Një incident është regjistruar përpara Kuvendit të Serbisë, ku deputetja e Partisë Progresive Serbe (SNS), Lidija Vukiçeviç, është sulmuar nga…
Tre muaj burg për 19-vjeçarin në Kumanovë, nxori flamurin shqiptar dhe atë të UÇK-së. Gjykata Themelore e Kumanovës ka dënuar…
Me një pankartë ku shkruan “Evropë, ku është drejtësia?”, iniciativa “Liria ka Emër” ka zhvilluar një aksion para Zyrës së…
Ministria e Digjitalizimit dhe Administratës Publike ka prezantuar sot ndërlidhjen e Sistemit Informativ për Menaxhimin e Burimeve Njerëzore (SIMBNJ) me…
Xhavit Jashari nga Shoqata e Familjeve të Dëshmorëve të UÇK-së e ka cilësuar të papranueshëm dënimin e ish-presidentit të Kosovës,…
Në alarm janë vendosur organet greke të Rendit pas zbulimit të një zarfi me pluhur të bardhë që ka mbërritur…