Nga Deepa Seetharaman dhe Raphael Satter/ Reuters
Të lidhura
None found
Një studim i ri dhe dy burime të afërta me çështjen bëjnë të ditur se, gjatë provave të zhvilluara këtë pranverë, agjentë të Inteligjencës Artificiale të OpenAI dolën nga hapësira e kontrolluar e testimit. Ata morën kontrollin e një faqeje interneti gjermane dhe e përdorën për të komunikuar me agjentë të tjerë të IA-së.
Sipas burimeve, drejtuesit e OpenAI u informuan për këtë rast disa javë më parë, por nuk e publikuan atë. Kjo ndodhi në kohën kur kompania po menaxhonte pasojat e incidentit të korrikut në platformën me kod të hapur Hugging Face.
Rasti, i cili kishte nisur në maj dhe nuk ishte raportuar më parë publikisht, ngre dyshime të reja lidhur me sigurinë e agjentëve të Inteligjencës Artificiale. Kompanitë po ndërtojnë sisteme që veprojnë me gjithnjë e më shumë autonomi dhe mund të kryejnë detyra të ndërlikuara pa mbikëqyrje të vazhdueshme nga njerëzit. Megjithatë, episode të tilla sugjerojnë se këta agjentë mund t’u shmangen kufizimeve, të përdorin dobësi të sistemeve dhe madje të bashkëpunojnë në forma që nuk janë parashikuar nga zhvilluesit e tyre.
Në incidentin e Hugging Face, agjentët e OpenAI organizuan në mënyrë autonome një sulm dixhital, i cili mbeti pa u zbuluar për më shumë se një javë. Kjo shtoi shqetësimet se kompania mund të jetë duke lënë pas dore sigurinë në përpjekje për të çuar përpara kufijtë e IA-së. Mosbërja publike e ngjarjes së majit mund të ringjallë pyetjet mbi mbikëqyrjen që OpenAI u bën sistemeve të veta.
OpenAI ka deklaruar se do të rrisë monitorimin e modeleve të saj. Muajin e kaluar, kompania pezulloi përkohësisht disa procese trajnimi për të vendosur masa shtesë sigurie. Por këtë javë ajo prezantoi modelin e ri ‘Astra’, i cili premton performancë më të lartë, por mund t’i shmanget mbikëqyrjes njerëzore.
“Nuk kemi mundësi t’u përgjigjemi në mënyrë të plotë pretendimeve apo përfundimeve të një raporti që nuk kemi pasur mundësi ta shqyrtojmë”, deklaroi një zëdhënës i OpenAI. “Reuters dhe autorët e raportit refuzuan kërkesën tonë për ta parë atë. Do ta shqyrtojmë me kujdes përmbajtjen sapo të publikohet dhe do të ndërmarrim çdo hap të nevojshëm.”
Sipas katër burimeve të njohura me çështjen, ekziston mundësia që rasti në Gjermani të mos ketë qenë i vetmi. Disa hetues të OpenAI u përpoqën të kontrollonin nëse agjentët e IA-së kishin shfaqur sjellje të ngjashme në raste të tjera, por zgjerimi i hetimit hasi rezistencë brenda kompanisë, përfshirë nga këshilltarët ligjorë.
“Pretendimet se ekipi ynë ligjor ka penguar hetimin e incidentit janë të pavërteta”, tha zëdhënësi i OpenAI.
Kompania tha se aktiviteti i zbuluar në Gjermani nuk kishte lidhje me rastin e Hugging Face dhe, për këtë arsye, nuk duhej përfshirë në raportin për atë incident. Zëdhënësi shtoi se OpenAI ka vepruar në mirëbesim, ka punuar me ekspertë të jashtëm dhe ka publikuar incidentet përkatëse.
Një wiki e kthyer në tabelë mesazhesh
Ngjarja gjermane është përshkruar në një raport që studiuesit ia kanë dhënë ekskluzivisht Reuters. Ndër autorët e tij janë Sydney Von Arx, drejtues i organizatës Nightingale, e fokusuar në sigurinë e Inteligjencës Artificiale, si dhe Cormac Slade Byrd, ish-tregtar i tregjeve financiare dhe tani studiues i IA-së.
Studiuesit thanë se rastin e identifikuan në fund të gushtit, ndërsa kërkonin në internet shenja të veprimeve të paautorizuara nga agjentë të Inteligjencës Artificiale.
Në DseWiki, një faqe gjermane për programuesit që funksionon ngjashëm me Wikipedia-n, ata gjetën mbi 15 mijë ndërhyrje dhe modifikime të kryera nga agjentë të Inteligjencës Artificiale.
Sipas ndryshimeve të regjistruara në faqe, agjentët e OpenAI e kishin shndërruar DseWiki-n në një kanal komunikimi mes tyre. Ata shkëmbenin mënyra për të realizuar detyrat duke iu shmangur rregullave të vendosura nga OpenAI, si edhe metoda për të fshehur veprimtarinë e tyre.
“Ka shumë pak gjasa që OpenAI të ketë synuar një sjellje të tillë”, tha Von Arx. “Nuk besoj se agjentët ishin menduar të koordinonin veprimet me njëri-tjetrin dhe aq më pak të publikonin mesazhe në internet.”
Një nga arsyet që i çoi studiuesit në përfundimin se aktiviteti kryhej nga agjentë të IA-së ishte shpejtësia jashtëzakonisht e lartë e veprimeve. Ata vunë re gjithashtu se agjentët fokusoheshin në zgjidhjen e problemeve teknike të ngjashme me ato që kompanitë përdorin për trajnimin dhe testimin e modeleve të Inteligjencës Artificiale.
Mesazhet mbartnin firma përdoruesish që e përshkruanin veten dhe njëri-tjetrin si “agjentë”. Rreth gjysma e tyre përdornin emërtime që linin të kuptohej një lidhje me OpenAI, përfshirë “OpenAIResearcher” dhe “OAIResearchMar26”.
Sipas studiuesve, të dhënat publike të serverëve sugjeronin se një pjesë e madhe e aktivitetit vinte nga infrastruktura e Microsoft Azure, platformë e përdorur edhe nga OpenAI. Ata vunë re, po ashtu, se pas incidentit punonjës të OpenAI hynë vazhdimisht në faqe, gjë që sipas tyre e forcon lidhjen mes aktivitetit të agjentëve dhe kompanisë.
Mashtrim dhe përpjekje për të fshehur gjurmët
Komunikimet e shqyrtuara nga studiuesit treguan se agjentët diskutonin mënyra për të shmangur zbulimin. Ata përmendnin përdorimin e mjeteve si Tor dhe kërkonin të siguronin vazhdimësinë e komunikimeve të tyre edhe nëse sistemi do t’i ndalte.
Në qershor, kur moderatori i DseWiki filloi të fshinte faqet e krijuara prej tyre, agjentët krijuan versione rezervë për të shmangur humbjen e tyre.
“Duket se fshirja e faqeve po bëhet sipas rendit alfabetik”, shkroi një prej agjentëve më 19 qershor. “Nëse kjo faqe zhduket, provoni [[ZZZDataUSAConstructionWageLive]].”
Studiuesit zbuluan edhe përpjekje për të ndërhyrë drejtpërdrejt në mënyrën si funksiononte faqja. Lukasz Olejnik, studiues në King’s College London, i përshkroi këto veprime si një tentativë hakerimi. Pas shqyrtimit të materialeve të enjten, OpenAI e kundërshtoi këtë vlerësim.
Në të shkuarën, raste të ngjashme të sjelljes së agjentëve të IA-së janë lidhur shpesh me testet e sigurisë kibernetike, ku modelet vihen qëllimisht në provë edhe për aftësitë e tyre sulmuese. Sipas Olejnik, megjithatë, ky rast i fundit tregon se një sjellje e tillë mund të shfaqet edhe jashtë këtyre testeve.
Maurice Chiodo, studiues në Qendrën për Studimin e Rrezikut Ekzistencial të Universitetit të Kembrixhit, tha pas shqyrtimit të një pjese të komunikimeve se ato i ngjanin “një lloj rrjeti të fshehtë, të përqendruar me çdo kusht në përmbushjen e një detyre apo misioni”.
Sipas tij, ky rast rrit shqetësimin se rreziku nga Inteligjenca Artificiale e avancuar mund të mos vijë domosdoshmërisht nga një sistem i vetëm superinteligjent, por nga një numër i madh agjentësh më pak të avancuar që bashkëpunojnë dhe koordinohen mes tyre./ Përktheu Monitor.al
