Evan Hubinger, i cili drejton kërkimet për përafrimin dhe sigurinë e inteligjencës artificiale në Anthropic, vlerëson se mundësia që AI të shkaktojë zhdukjen e njerëzimit gjatë dhjetë viteve të ardhshme është më e lartë se 10%.
Të lidhura
None found
“Ne besojmë sinqerisht se inteligjenca artificiale mund t’i vrasë të gjithë njerëzit. Personalisht mendoj se mundësia është mbi 10% në dhjetë vitet e ardhshme”, shkroi Hubinger në platformën X. Ai theksoi se, edhe pse Anthropic po përpiqet të adresojë këtë çështje, kompania ende nuk ka një zgjidhje për përafrimin e një superinteligjence me interesat dhe vlerat njerëzore. Sipas tij, nuk është e qartë as nëse po afrohen drejt një zgjidhjeje të tillë.
Ky qëndrim u bë publik pas largimit nga puna të studiuesit Jacob Coxon, i cili më parë kishte punuar në OpenAI dhe Anthropic. Coxon i kritikoi të dyja kompanitë, duke i akuzuar se po zhvillojnë një garë për krijimin e një superinteligjence të aftë të përmirësojë veten dhe se po “luajnë me jetët tona”.
Megjithatë, Hubinger bëri dallimin mes sistemeve aktuale dhe atyre që mund të shfaqen në të ardhmen. Ai tha se rreziku i paraqitur nga modelet që përdoren sot është i ulët, ndërsa shqetësimi kryesor lidhet me sisteme që mund të vetëpërmirësohen dhe të humbasin kontrollin njerëzor.
Vlerësimi prej mbi 10% përbën një opinion personal të Hubinger dhe nuk është parashikim zyrtar i Anthropic, shkruajnë Forbes dhe Wall Street Journal, të cilat komentuan deklaratën tronditëse të studiuesit të inteligjencës artificiale.
