Situata mund të dalë jashtë kontrollit”, mbi 1,000 ekspertë kërkojnë frenimin e zhvillimit të IA-së

Dario Amodei, drejtori ekzekutiv i Anthropic, së bashku me më shumë se 1,000 punonjës, përfshirë edhe drejtues të kompanive të mëdha të inteligjencës artificiale, i kanë kërkuar të martën qeverisë amerikane të ngadalësojë hedhjen në treg të modeleve më të avancuara të IA-së. Në peticionin e tyre, nënshkruesit i bëjnë thirrje “qeverisë amerikane të mbështesë përpjekjet ndërkombëtare për të zhvilluar mjetet e nevojshme teknike dhe rregullatore për të udhëhequr në mënyrë të vetëdijshme kufijtë e zhvillimit të automatizuar të inteligjencës artificiale”.

Lista e firmëtarëve përfshin drejtuesit e kërkimit të OpenAI, kompanisë që zhvilloi ChatGPT, dhe të MetaAI, si edhe drejtorin e strategjisë së DeepMind, degë e Google. Në dokument thuhet se kompanitë kryesore të IA-së mund të jenë pranë automatizimit të kërkimit në këtë fushë. Sipas tyre, është e pamundur të përcaktohet me saktësi se sa do të përshpejtonte kjo përparimin, por ekziston rreziku që aftësitë e reja të zhvillohen aq shpejt, sa njerëzit të mos arrijnë më t’i kuptojnë apo t’i kontrollojnë.

Sam Altman, drejtori ekzekutiv i OpenAI, nuk figuron mes nënshkruesve të peticionit. Megjithatë, në një intervistë të publikuar të martën, ai deklaroi se zhvilluesit mund të duhet t’i frenojnë vetë përkohësisht përparimet e shpejta të modeleve, në mënyrë që shoqëria të ketë mundësi të përshtatet me ritmin e ndryshimeve.

Shqetësimet u shtuan pasi OpenAI bëri të ditur javën e kaluar se modelet e saj kishin nisur në mënyrë të pavarur një sulm kibernetik, duke kapërcyer protokollet e sigurisë që synonin ta ndalonin një veprim të tillë. Gjatë një testi, modelet braktisën mjedisin e izoluar ku po provoheshin, raportoi kompania, u lidhën me internetin dhe depërtuan në platformën Hugging Face, e cila përdoret nga zhvilluesit e softuerëve për ruajtjen dhe shpërndarjen e kodit.

Ky nuk ishte rasti i parë kur një model doli jashtë kontrollit të krijuesve të tij, por episodi u vlerësua si veçanërisht alarmues. Altman tha në podkastin “Invest Like the Best” se OpenAI ndërpreu më pas testimet dhe forcoi masat e sigurisë. Sidoqoftë, ai shtoi se në një perspektivë afatgjatë industria mund të detyrohet të arrijë një marrëveshje për të ngadalësuar zhvillimin.