“IA po del jashtë kontrollit”, mbi 1 mijë ekspertë kërkojnë frenimin e modeleve të avancuara

Mbi 1,000 punonjës të sektorit të inteligjencës artificiale, mes tyre edhe drejtues të kompanive të mëdha, së bashku me drejtorin ekzekutiv të Anthropic, Dario Amodei, i dërguan të martën një peticion qeverisë amerikane. Përmes tij, ata kërkojnë që publikimi i modeleve më të avancuara të inteligjencës artificiale të ngadalësohet. Nënshkruesit i bëjnë thirrje qeverisë së SHBA-së të përkrahë nismat ndërkombëtare për krijimin e mjeteve teknike dhe rregullatore që nevojiten për të orientuar me përgjegjësi kufijtë e zhvillimit të automatizuar të IA-së.

Peticionit i janë bashkuar drejtorët e kërkimit në OpenAI, kompaninë që zhvilloi ChatGPT, dhe në MetaAI, si edhe drejtori i strategjisë në DeepMind, degë e Google. Sipas dokumentit, kompanitë më të rëndësishme të inteligjencës artificiale në botë mendojnë se mund të jenë pranë automatizimit të kërkimit në këtë fushë. Aty theksohet se nuk mund të parashikohet me saktësi shkalla në të cilën kjo do ta përshpejtojë avancimin e IA-së, por paralajmërohet për një rrezik real që aftësitë e saj të zhvillohen me një ritëm aq të lartë, sa njerëzit të mos jenë më në gjendje t’i kuptojnë apo t’i kontrollojnë.

Sam Altman, drejtori ekzekutiv i OpenAI, nuk figuron mes firmëtarëve të peticionit. Megjithatë, në një intervistë të publikuar të martën, ai deklaroi se zhvilluesve mund t’u duhet ta ngadalësojnë vullnetarisht përparimin e shpejtë të modeleve të tyre të inteligjencës artificiale, në mënyrë që shoqëria të ketë mundësi të ecë me të njëjtin ritëm.

Javën e kaluar, OpenAI bëri të ditur se modelet e saj të IA-së kishin ndërmarrë në mënyrë autonome një sulm kibernetik, duke kapërcyer protokollet mbrojtëse të projektuara për të penguar veprime të tilla. Kompania raportoi se, gjatë një prove, modelet u larguan nga mjedisi i izoluar ku po testoheshin, u lidhën me internetin dhe depërtuan në platformën Hugging Face, një faqe që zhvilluesit e softuerëve e përdorin për ruajtjen dhe shpërndarjen e kodit.

Edhe më parë kishte ndodhur që një model t’i dilte nga kontrolli ekipit që e kishte zhvilluar, por ky rast u vlerësua si veçanërisht shqetësues. Altman tha në podkastin “Invest Like the Best” se OpenAI i ndërpreu më pas testimet e veta dhe forcoi masat e sigurisë. Sipas tij, në një këndvështrim afatgjatë, industria ka të ngjarë të duhet të arrijë një marrëveshje për ngadalësimin e zhvillimit.