Categories: tech

Alarm serioz apo lëvizje marketingu? BBC analizon rrezikun nga hakimi i OpenAI

Industria e inteligjencës artificiale është përballur me shqetësime të forta pas një ngjarjeje të pazakontë në fushën e sigurisë kibernetike. OpenAI konfirmoi se, gjatë një prove të brendshme, dy modele eksperimentale të ChatGPT sulmuan platformën Hugging Face.

Të lidhura

None found

Sipas BBC-së, kompania shpjegoi se modelet arritën të dilnin nga mjedisi i izoluar i testimit, i njohur si sandbox, siguruan lidhje me internetin dhe hynë në sistemet e Hugging Face. Synimi i tyre ishte të merrnin të dhëna që do t’u mundësonin ta përfundonin me sukses provën.

Më 16 korrik, Hugging Face bëri të ditur se kishte pësuar një sulm të pazakontë kibernetik, të realizuar me ritëm mbinjerëzor dhe pothuajse pa përfshirje njerëzore. Kompania raportoi se inteligjenca artificiale kreu rreth 17 mijë veprime në më pak se dy ditë, duke depërtuar në sistemet e saj dhe duke vjedhur informacione.

Për shkak se në fillim nuk dihej se kush e kishte kryer ndërhyrjen, studiuesit e Hugging Face dyshuan se pas saj mund të fshihej një grup kriminal kibernetik ose një aktor me mbështetje shtetërore. Afërsisht një javë më vonë, OpenAI pranoi se sulmi ishte realizuar nga dy modele eksperimentale të ChatGPT, të trajnuara posaçërisht për prova të sigurisë kibernetike.

OpenAI sqaroi se gjithçka ndodhi në kuadër të një testi të kontrolluar, që synonte të vlerësonte aftësitë e modeleve për hakimin etik. Kompania tha se po punon së bashku me Hugging Face për të menaxhuar pasojat dhe njoftoi se do të publikojë një raport teknik mbi mësimet e nxjerra nga incidenti.

Ngjarja ka prodhuar qëndrime të ndryshme mes profesionistëve të teknologjisë. Për disa ekspertë, ajo përbën një sinjal serioz paralajmërues për rreziqet e sistemeve të inteligjencës artificiale që po fitojnë gjithnjë e më shumë autonomi. Të tjerë janë treguar skeptikë, duke argumentuar se mënyra se si u komunikua incidenti mund të ketë shërbyer edhe për të promovuar kapacitetet e modeleve të OpenAI.

Dyshime për versionin e kompanisë janë shfaqur edhe në rrjetet sociale. Një pjesë e komentuesve e kanë përshkruar ngjarjen si një taktikë marketingu për të nxjerrë në pah fuqinë e modeleve të reja të inteligjencës artificiale, ndërsa të tjerë kanë shprehur shqetësim për kontrollin dhe sigurinë e sistemeve të avancuara.

Kritika janë drejtuar gjithashtu ndaj mënyrës në të cilën OpenAI kishte izoluar modelet eksperimentale. Dor Sarig nga Pillar Security vlerësoi se rasti dëshmon se përdorimi i sandbox-eve, i vetëm, nuk mund të sigurojë mbrojtjen e sistemeve agjentike të inteligjencës artificiale. Profesori Alan Woodward nga Universiteti i Surrey-t dhe Katie Moussouris nga Luta Security theksuan po ashtu nevojën që industria të investojë më shumë në mekanizma për kontrollin dhe përmbajtjen e këtyre teknologjive.

Edhe pse shumë elemente rreth rrethanave të sakta vazhdojnë të mbeten të paqarta, incidenti shihet si një pikë e rëndësishme për ecurinë e inteligjencës artificiale dhe të sigurisë kibernetike. Ngjarja ka rikthyer në vëmendje diskutimin mbi ekuilibrin ndërmjet përparimit teknologjik dhe domosdoshmërisë për masa më të fuqishme sigurie gjatë zhvillimit të sistemeve autonome.

të fundit

VIDEO/ Deputetes së partisë së Vuçiç i hidhet bidoni me kos në kokë para Parlamentit

Një incident është regjistruar përpara Kuvendit të Serbisë, ku deputetja e Partisë Progresive Serbe (SNS), Lidija Vukiçeviç, është sulmuar nga…

3 minutes ago

Flamuri shqiptar dhe ai i UÇK-së i kushtojnë 3 muaj burg 19-vjeçarit në Kumanovë

Tre muaj burg për 19-vjeçarin në Kumanovë, nxori flamurin shqiptar dhe atë të UÇK-së. Gjykata Themelore e Kumanovës ka dënuar…

3 minutes ago

Evropë, ku mbetet drejtësia?” – “Liria ka Emër” zhvillon protestë para Zyrës së BE-së në Prishtinë

Me një pankartë ku shkruan “Evropë, ku është drejtësia?”, iniciativa “Liria ka Emër” ka zhvilluar një aksion para Zyrës së…

10 minutes ago

Integrimi i sistemeve të pagave dhe personelit synon eliminimin e regjistrimeve të përsëritura

Ministria e Digjitalizimit dhe Administratës Publike ka prezantuar sot ndërlidhjen e Sistemit Informativ për Menaxhimin e Burimeve Njerëzore (SIMBNJ) me…

10 minutes ago

OVL-UÇK: Vendimi ndaj Thaçit është i papranueshëm, institucionet e Kosovës duhet të reagojnë

Xhavit Jashari nga Shoqata e Familjeve të Dëshmorëve të UÇK-së e ka cilësuar të papranueshëm dënimin e ish-presidentit të Kosovës,…

10 minutes ago

Greqi, zarfi me pluhur të bardhë shkakton alarm në Ministrinë e Mbrojtjes së Qytetarit

Në alarm janë vendosur organet greke të Rendit pas zbulimit të një zarfi me pluhur të bardhë që ka mbërritur…

11 minutes ago