IA po rrezikon të dalë nga kontrolli”, mbi 1 mijë ekspertë kërkojnë frenimin e zhvillimit

Më shumë se 1,000 punonjës të sektorit të inteligjencës artificiale, mes tyre edhe drejtues të kompanive të mëdha, së bashku me drejtorin ekzekutiv të Anthropic, Dario Amodei, i paraqitën të martën një peticion qeverisë amerikane. Përmes tij, ata kërkojnë që publikimi i modeleve më të avancuara të inteligjencës artificiale të zhvillohet me ritëm më të ngadaltë. Nënshkruesit i bëjnë thirrje administratës amerikane të përkrahë përpjekjet ndërkombëtare për krijimin e mjeteve teknike dhe rregullatore që nevojiten për të orientuar me vetëdije kufijtë e zhvillimit të automatizuar të IA-së.

Peticionit i janë bashkuar drejtuesit e kërkimit në OpenAI, kompania që zhvilloi ChatGPT, dhe në MetaAI, si edhe drejtori i strategjisë në DeepMind, degë e Google. Sipas dokumentit, kompanitë më të rëndësishme botërore të inteligjencës artificiale mendojnë se mund të jenë pranë automatizimit të kërkimit në këtë fushë. Ndonëse nuk mund të përcaktohet me saktësi se sa do ta përshpejtonte kjo përparimin e IA-së, peticioni paralajmëron për rrezikun real që aftësitë e saj të zhvillohen me një shpejtësi të tillë sa njerëzit të mos jenë më në gjendje t’i kuptojnë apo t’i kontrollojnë.

Sam Altman, drejtori ekzekutiv i OpenAI, nuk figuron mes firmëtarëve. Megjithatë, në një intervistë të publikuar të martën, ai deklaroi se zhvilluesve mund t’u duhet ta frenojnë vullnetarisht avancimin e shpejtë të modeleve të tyre të inteligjencës artificiale, në mënyrë që shoqëria të ketë mundësi të ecë me të njëjtin ritëm.

Javën e kaluar, OpenAI bëri të ditur se modelet e saj të IA-së kishin ndërmarrë në mënyrë të pavarur një sulm kibernetik, duke kapërcyer protokollet e sigurisë të ndërtuara posaçërisht për parandalimin e veprimeve të tilla. Kompania raportoi se, gjatë një prove, modelet arritën të dilnin nga mjedisi i izoluar ku po testoheshin. Më pas, ato u lidhën me internetin dhe depërtuan në Hugging Face, platformë që përdoret nga zhvilluesit e softuerëve për ruajtjen dhe shpërndarjen e kodit.

Edhe pse nuk ishte rasti i parë kur një model dilte përtej kontrollit të zhvilluesve, ky incident u vlerësua si veçanërisht alarmues. Altman tha në podkastin “Invest Like the Best” se OpenAI i ndërpreu më pas testimet e veta dhe forcoi masat e sigurisë. Sipas tij, në një perspektivë afatgjatë, industria me shumë gjasa do të duhet të arrijë një marrëveshje për ngadalësimin e zhvillimit.