Categories: tech

Alarm i vërtetë apo strategji promovuese? BBC analizon rrezikun nga hakimi i OpenAI

Një ngjarje e pazakontë në fushën e sigurisë kibernetike ka alarmuar industrinë e inteligjencës artificiale. OpenAI ka konfirmuar se, gjatë një testimi të brendshëm, dy modele eksperimentale të ChatGPT sulmuan platformën Hugging Face.

Të lidhura

None found

Sipas BBC-së, kompania shpjegoi se modelet arritën të largoheshin nga mjedisi i izoluar i provës, i njohur si sandbox, siguruan lidhje me internetin dhe hynë në sistemet e Hugging Face. Synimi ishte marrja e të dhënave që u nevojiteshin për ta përfunduar me sukses testin.

Më 16 korrik, Hugging Face bëri të ditur se ishte goditur nga një sulm kibernetik jo i zakonshëm, i zhvilluar me ritëm mbinjerëzor dhe pothuajse pa ndërhyrje nga njerëzit. Kompania raportoi se inteligjenca artificiale kreu rreth 17 mijë veprime në më pak se dy ditë, duke depërtuar në sistemet e saj dhe duke vjedhur informacione.

Për shkak se identiteti i autorëve nuk dihej, studiuesit e Hugging Face menduan fillimisht se pas operacionit mund të qëndronte një grup kriminal kibernetik ose një aktor i përkrahur nga një shtet. Rreth një javë më pas, OpenAI pranoi se sulmi ishte realizuar nga dy modele eksperimentale të ChatGPT, të cilat ishin trajnuar posaçërisht për prova të sigurisë kibernetike.

OpenAI sqaroi se ngjarja u regjistrua në kuadër të një prove të kontrolluar, të organizuar për të matur aftësitë e modeleve në hakimin etik. Kompania njoftoi gjithashtu se po punon së bashku me Hugging Face për trajtimin e pasojave dhe se synon të publikojë një raport teknik mbi mësimet e nxjerra nga incidenti.

Rasti ka nxitur qëndrime të kundërta brenda komunitetit teknologjik. Për disa ekspertë, ai përbën një sinjal serioz për rreziqet e sistemeve të inteligjencës artificiale që po fitojnë gjithnjë e më shumë autonomi. Të tjerë janë treguar skeptikë, duke ngritur mundësinë që mënyra e paraqitjes së ngjarjes të ketë shërbyer edhe për promovimin e kapaciteteve të modeleve të OpenAI.

Dyshime për versionin e kompanisë janë shfaqur edhe në rrjetet sociale. Disa komentues e kanë interpretuar incidentin si një lëvizje marketingu për të reklamuar fuqinë e modeleve të reja të inteligjencës artificiale, ndërsa të tjerë kanë paralajmëruar për problemet që lidhen me sigurinë dhe mbajtjen nën kontroll të sistemeve të avancuara.

Kritika nga specialistët e sigurisë kibernetike ka pasur edhe për mënyrën se si OpenAI i kishte izoluar modelet eksperimentale. Dor Sarig nga Pillar Security vlerësoi se rasti dëshmon se përdorimi i sandbox-eve, i vetëm, nuk mund të sigurojë mbrojtjen e sistemeve agjentike të inteligjencës artificiale. Profesori Alan Woodward nga Universiteti i Surrey-t dhe Katie Moussouris nga Luta Security theksuan po ashtu nevojën që industria të investojë më shumë në mekanizma për kontrollin dhe përmbajtjen e këtyre teknologjive.

Edhe pse ende nuk janë sqaruar shumë elemente rreth rrethanave të sakta, incidenti shihet si një pikë e rëndësishme për evolucionin e inteligjencës artificiale dhe të sigurisë kibernetike. Ngjarja ka vendosur sërish në qendër të diskutimit ekuilibrin mes përparimit teknologjik dhe domosdoshmërisë për masa më të fuqishme sigurie gjatë krijimit të sistemeve autonome.

të fundit

VIDEO/ Deputetes së partisë së Vuçiç i hidhet bidoni me kos në kokë para Parlamentit

Një incident është regjistruar përpara Kuvendit të Serbisë, ku deputetja e Partisë Progresive Serbe (SNS), Lidija Vukiçeviç, është sulmuar nga…

6 minutes ago

Flamuri shqiptar dhe ai i UÇK-së i kushtojnë 3 muaj burg 19-vjeçarit në Kumanovë

Tre muaj burg për 19-vjeçarin në Kumanovë, nxori flamurin shqiptar dhe atë të UÇK-së. Gjykata Themelore e Kumanovës ka dënuar…

7 minutes ago

Evropë, ku mbetet drejtësia?” – “Liria ka Emër” zhvillon protestë para Zyrës së BE-së në Prishtinë

Me një pankartë ku shkruan “Evropë, ku është drejtësia?”, iniciativa “Liria ka Emër” ka zhvilluar një aksion para Zyrës së…

14 minutes ago

Integrimi i sistemeve të pagave dhe personelit synon eliminimin e regjistrimeve të përsëritura

Ministria e Digjitalizimit dhe Administratës Publike ka prezantuar sot ndërlidhjen e Sistemit Informativ për Menaxhimin e Burimeve Njerëzore (SIMBNJ) me…

14 minutes ago

OVL-UÇK: Vendimi ndaj Thaçit është i papranueshëm, institucionet e Kosovës duhet të reagojnë

Xhavit Jashari nga Shoqata e Familjeve të Dëshmorëve të UÇK-së e ka cilësuar të papranueshëm dënimin e ish-presidentit të Kosovës,…

14 minutes ago

Greqi, zarfi me pluhur të bardhë shkakton alarm në Ministrinë e Mbrojtjes së Qytetarit

Në alarm janë vendosur organet greke të Rendit pas zbulimit të një zarfi me pluhur të bardhë që ka mbërritur…

14 minutes ago