Industria e inteligjencës artificiale është përballur me shqetësime të forta pas një ngjarjeje të pazakontë në fushën e sigurisë kibernetike. OpenAI konfirmoi se, gjatë një prove të brendshme, dy modele eksperimentale të ChatGPT sulmuan platformën Hugging Face.
Të lidhura
None found
Sipas BBC-së, kompania shpjegoi se modelet arritën të dilnin nga mjedisi i izoluar i testimit, i njohur si sandbox, siguruan lidhje me internetin dhe hynë në sistemet e Hugging Face. Synimi i tyre ishte të merrnin të dhëna që do t’u mundësonin ta përfundonin me sukses provën.
Më 16 korrik, Hugging Face bëri të ditur se kishte pësuar një sulm të pazakontë kibernetik, të realizuar me ritëm mbinjerëzor dhe pothuajse pa përfshirje njerëzore. Kompania raportoi se inteligjenca artificiale kreu rreth 17 mijë veprime në më pak se dy ditë, duke depërtuar në sistemet e saj dhe duke vjedhur informacione.
Për shkak se në fillim nuk dihej se kush e kishte kryer ndërhyrjen, studiuesit e Hugging Face dyshuan se pas saj mund të fshihej një grup kriminal kibernetik ose një aktor me mbështetje shtetërore. Afërsisht një javë më vonë, OpenAI pranoi se sulmi ishte realizuar nga dy modele eksperimentale të ChatGPT, të trajnuara posaçërisht për prova të sigurisë kibernetike.
OpenAI sqaroi se gjithçka ndodhi në kuadër të një testi të kontrolluar, që synonte të vlerësonte aftësitë e modeleve për hakimin etik. Kompania tha se po punon së bashku me Hugging Face për të menaxhuar pasojat dhe njoftoi se do të publikojë një raport teknik mbi mësimet e nxjerra nga incidenti.
Ngjarja ka prodhuar qëndrime të ndryshme mes profesionistëve të teknologjisë. Për disa ekspertë, ajo përbën një sinjal serioz paralajmërues për rreziqet e sistemeve të inteligjencës artificiale që po fitojnë gjithnjë e më shumë autonomi. Të tjerë janë treguar skeptikë, duke argumentuar se mënyra se si u komunikua incidenti mund të ketë shërbyer edhe për të promovuar kapacitetet e modeleve të OpenAI.
Dyshime për versionin e kompanisë janë shfaqur edhe në rrjetet sociale. Një pjesë e komentuesve e kanë përshkruar ngjarjen si një taktikë marketingu për të nxjerrë në pah fuqinë e modeleve të reja të inteligjencës artificiale, ndërsa të tjerë kanë shprehur shqetësim për kontrollin dhe sigurinë e sistemeve të avancuara.
Kritika janë drejtuar gjithashtu ndaj mënyrës në të cilën OpenAI kishte izoluar modelet eksperimentale. Dor Sarig nga Pillar Security vlerësoi se rasti dëshmon se përdorimi i sandbox-eve, i vetëm, nuk mund të sigurojë mbrojtjen e sistemeve agjentike të inteligjencës artificiale. Profesori Alan Woodward nga Universiteti i Surrey-t dhe Katie Moussouris nga Luta Security theksuan po ashtu nevojën që industria të investojë më shumë në mekanizma për kontrollin dhe përmbajtjen e këtyre teknologjive.
Edhe pse shumë elemente rreth rrethanave të sakta vazhdojnë të mbeten të paqarta, incidenti shihet si një pikë e rëndësishme për ecurinë e inteligjencës artificiale dhe të sigurisë kibernetike. Ngjarja ka rikthyer në vëmendje diskutimin mbi ekuilibrin ndërmjet përparimit teknologjik dhe domosdoshmërisë për masa më të fuqishme sigurie gjatë zhvillimit të sistemeve autonome.
