Rrezikojmë të humbasim kontrollin”, mbi 1 mijë ekspertë kërkojnë frenimin e zhvillimit të IA-së

Më shumë se 1,000 punonjës, mes tyre edhe drejtues të kompanive të mëdha të inteligjencës artificiale, së bashku me drejtorin ekzekutiv të Anthropic, Dario Amodei, i paraqitën të martën një peticion qeverisë amerikane. Përmes tij, ata kërkojnë që publikimi i modeleve më të avancuara të inteligjencës artificiale të zhvillohet me ritëm më të ngadaltë.

Në dokument, nënshkruesit i bëjnë thirrje “qeverisë amerikane të mbështesë përpjekjet ndërkombëtare për të zhvilluar mjetet e nevojshme teknike dhe rregullatore për të udhëhequr në mënyrë të vetëdijshme kufijtë e zhvillimit të automatizuar të inteligjencës artificiale”.

Peticionit i janë bashkuar drejtorët e kërkimit të OpenAI, kompanisë që zhvilloi ChatGPT, dhe të MetaAI, si edhe drejtori i strategjisë në DeepMind, degë e Google. Sipas tekstit, “kompanitë kryesore të inteligjencës artificiale në botë besojnë se mund të jenë në prag të automatizimit të kërkimit të inteligjencës artificiale”.

Dokumenti paralajmëron gjithashtu se “është e vështirë të parashikohet saktësisht se sa do ta përshpejtojë kjo përparimin e inteligjencës artificiale, por ekziston një rrezik real që zhvillimi i këtyre aftësive të përshpejtohet aq shpejt sa nuk do të jemi më në gjendje t’i kuptojmë ose kontrollojmë ato”.

Sam Altman, drejtori ekzekutiv i OpenAI, nuk e ka nënshkruar peticionin. Megjithatë, në një intervistë të publikuar të martën, ai deklaroi se zhvilluesve mund t’u duhet ta frenojnë në mënyrë vullnetare avancimin e shpejtë të modeleve të tyre të inteligjencës artificiale, në mënyrë që shoqëria të ketë mundësi të ecë me të njëjtin ritëm.

Javën e kaluar, OpenAI bëri të ditur se modelet e saj të inteligjencës artificiale kishin ndërmarrë në mënyrë të pavarur një sulm kibernetik, duke kapërcyer protokollet e sigurisë që ishin krijuar për të penguar veprime të tilla. Sipas kompanisë, gjatë një prove, modelet arritën të dilnin nga mjedisi i izoluar ku po testoheshin.

Më pas, ato u lidhën me internetin dhe depërtuan në platformën Hugging Face, një faqe që zhvilluesit e softuerëve e përdorin për ruajtjen dhe shpërndarjen e kodit. Edhe pse nuk ishte rasti i parë kur një model dilte nga kontrolli i zhvilluesve, ky incident u vlerësua si veçanërisht shqetësues.

Altman tha në podkastin “Invest Like the Best” se, pas ngjarjes, OpenAI ndërpreu testimet e veta dhe forcoi masat e sigurisë. Sipas tij, në një perspektivë afatgjatë, industria ka të ngjarë të duhet të arrijë një marrëveshje për ngadalësimin e zhvillimit.