Një studiues i njohur i sigurisë së inteligjencës artificiale ka paralajmëruar se kjo teknologji, në rrethanat më ekstreme, mund të shndërrohet në një rrezik ekzistencial për njerëzimin deri në fund të kësaj dekade.
Të lidhura
None found
Jacob Coxon, 27 vjeç, i cili ka kontribuar në trajnimin e disa prej modeleve më të fundit të AI në kompaninë Anthropic në San Francisko, u ka kërkuar njerëzve të mos e minimizojnë fuqinë e saj, veçanërisht nëse teknologjia arrin nivelin e “superinteligjencës”.
Coxon, që në të kaluarën ka punuar edhe për OpenAI, pretendon se as Anthropic, kompania pas sistemit Claude, dhe as OpenAI nuk po marrin masa mjaftueshëm të kujdesshme për sigurinë e inteligjencës artificiale.
Rreziqet e përmendura nga ekspertët përfshijnë manipulimin e gjerë përmes propagandës dhe dezinformimit, sulmet ndaj infrastrukturës kritike, ndërhyrjet në sistemet e armëve bërthamore dhe lehtësimin e zhvillimit të armëve biologjike.
Megjithatë, bëhet fjalë për skenarë hipotetikë dhe jo për parashikime se këto ngjarje do të ndodhin patjetër.
Një prej shqetësimeve themelore të studiuesve është i ashtuquajturi “problemi i përafrimit” ose “alignment problem”.
Çështja lidhet me vështirësinë për të garantuar që një sistem më inteligjent se njeriu të vazhdojë të ndjekë objektiva në përputhje me interesat njerëzore.
Eksperimentet kanë treguar se disa modele kanë gjetur mënyra të paparashikuara për të përmbushur detyrat e dhëna, duke anashkaluar kufizimet e vendosura nga zhvilluesit.
Këto raste kanë nxitur pyetje mbi pasojat që mund të lindin nëse sisteme shumë më të fuqishme marrin qasje në infrastruktura me rëndësi jetike.
Profesori Mark Lee, ekspert i inteligjencës artificiale në Universitetin e Birminghamit, thekson se rreziku nuk kufizohet te skenari i njohur i “robotëve të armatosur”.
Sipas tij, kompanitë më të mëdha po përpiqen të ndërtojnë sisteme që të jenë po aq inteligjente ose më inteligjente se njerëzit, ndërkohë që ende mungojnë metoda plotësisht të besueshme për të kontrolluar sjelljen e tyre.
Meqë AI funksionon kryesisht si softuer, çdo sistem i lidhur me internetin mund të kthehet në një objektiv të mundshëm.
Lee paralajmëron se një sulm ndaj sistemit kombëtar të kontrollit të transportit ose ndaj një centrali bërthamor mund të shkaktonte pasoja katastrofike.
Një inteligjencë artificiale jashtë kontrollit nuk do të kishte nevojë të sulmonte drejtpërdrejt njerëzit për të shkaktuar dëme të mëdha.
Dr. Andrew Rogoyski, nga Surrey Institute for People-Centred Artificial Intelligence, shpjegon se një sistem shumë i avancuar mund të kuptojë varësinë e tij nga njerëzimi.
Njerëzit do të mbështeteshin te AI për të realizuar objektivat e tyre, ndërsa vetë sistemi do të kishte nevojë për njerëzit për materiale, energji, pajisje ftohjeje, rrjete dhe të dhëna.
Për rrjedhojë, zhdukja fizike e njerëzimit mund të mos ishte në interesin e një inteligjence të tillë.
Megjithatë, një kërcënim më i fshehtë mund të vinte nga përdorimi i dezinformimit, propagandës dhe manipulimit për të drejtuar gradualisht sjelljen e shoqërisë.
Andrea Miotti, themelues dhe drejtues i ControlAI, thotë se, nëse miliarda agjentë superinteligjentë do të konkurronin për burime dhe pushtet pa kontrolle efektive, njerëzit mund të trajtoheshin si “dëm anësor”.
Një proces i tillë mund ta privonte gradualisht njerëzimin nga kontrolli mbi vendimet kryesore politike, ekonomike dhe shoqërore.
Një tjetër shqetësim lidhet me arsenalet bërthamore që ekzistojnë aktualisht.
Nëntë shtete zotërojnë armë bërthamore dhe në arsenalet e tyre ndodhen mijëra koka bërthamore.
Sa më shumë të integrohen sistemet e AI në strukturat ushtarake, aq më i madh bëhet shqetësimi se një gabim, një keqinterpretim ose një objektiv i përcaktuar në mënyrë të gabuar mund të përshkallëzojë një krizë.
Në një situatë ekstreme, sistemi nuk do të kishte nevojë të ishte “keqdashës”.
Mjaftonte që të ndiqte me ngurtësi një objektiv të caktuar dhe të arrinte në një përfundim katastrofik, të cilin njerëzit nuk e kishin parashikuar.
Shqetësimet janë shtuar ndërsa fuqitë botërore po rrisin investimet në sistemet autonome dhe në përdorimin e AI në sektorin ushtarak.
Dokumente strategjike ushtarake kanë paralajmëruar prej vitesh se konfliktet moderne mund të kërkojnë vendimmarrje me “shpejtësi makinerike”.
Rreziku rritet pikërisht kur roli i vendimmarrjes njerëzore hiqet ose kufizohet ndjeshëm.
Ben Eisenpress, drejtor i operacioneve në Future of Life Institute, e ka cilësuar destabilizuese përfshirjen e inteligjencës artificiale në sistemet e komandës dhe kontrollit bërthamor.
Edhe nëse në proces parashikohet teknikisht prania e një njeriu, Eisenpress vëren se nuk mund të supozohet automatikisht që një zyrtar do të kundërshtojë një rekomandim të gabuar të AI-së në kushtet e presionit ekstrem.
Ky lloj përshkallëzimi njihet në disa raste si “flash war”, pra një konflikt që zhvillohet aq shpejt sa njerëzit nuk arrijnë të ndërhyjnë.
Një rrezik më konkret lidhet me mundësinë që AI t’ua lehtësojë individëve ose grupeve keqdashëse krijimin e armëve biologjike.
Deri më tani, prodhimi i një virusi ose bakteri të modifikuar kërkonte njohuri të thelluara shkencore, laboratorë të specializuar dhe financime të konsiderueshme.
Ekspertët druhen se sistemet e avancuara të AI mund ta ulin këtë pengesë duke ofruar të dhëna dhe udhëzime shumë të specializuara.
Profesori Lee e sheh këtë si një kërcënim më realist sesa skenarët e paraqitur në filmat fantastiko-shkencorë.
Sipas tij, organizata terroriste ose shtete të papërgjegjshme mund ta përdorin AI-në për të zhvilluar një virus të ri, i cili do të mund të shkaktonte një pandemi edhe më vdekjeprurëse.
Anthropic ka njoftuar se ka zbuluar përpjekje për përdorimin e sistemit Claude në mënyra që mund të ndihmonin krijimin e armëve biologjike.
Kompania ka deklaruar se në disa raste përdoruesit kërkonin informacione potencialisht të rrezikshme dhe se këto përpjekje ishin bllokuar.
Studiuesit e sigurisë kanë vënë në dukje gjithashtu se disa modele të publikuara mund të përshtaten për të kapërcyer mekanizmat mbrojtës.
Një zhvillim i tillë mund t’u japë personave pa njohuri të avancuara udhëzime që më parë kërkonin ekspertizë të konsiderueshme.
Debati nuk përqendrohet vetëm te ideja e një “AI-je të keqe”.
Një sistem mund të bëhet i rrezikshëm edhe pa pasur urrejtje, zemërim apo synim të drejtpërdrejtë për të shkatërruar njerëzimin.
Rreziku mund të vijë nga një objektiv i përcaktuar gabimisht, nga sjellja e paparashikueshme e sistemit ose nga përdorimi i teknologjisë prej njerëzve me qëllime të rrezikshme.
Për këtë arsye, studiuesit kërkojnë që ndërtimi i modeleve gjithnjë e më të fuqishme të shoqërohet me kontrolle më të rrepta, testime të pavarura dhe kufizime të qarta për përdorimin e tyre në fushën ushtarake dhe biologjike.
Nuk dihet ende nëse inteligjenca artificiale do të arrijë ndonjëherë nivelin e “superinteligjencës”.
Megjithatë, për ekspertët e sigurisë, çështja vendimtare nuk është vetëm fuqia që mund të fitojë kjo teknologji, por edhe aftësia e njerëzimit për ta kontrolluar atë nëse një nivel i tillë arrihet. /GazetaExpress/
