“IA po del nga kontrolli”, mbi 1 mijë ekspertë kërkojnë frenimin e avancimit

Më shumë se 1,000 punonjës të sektorit, mes tyre drejtues të kompanive të mëdha të inteligjencës artificiale dhe drejtori ekzekutiv i Anthropic, Dario Amodei, i paraqitën të martën qeverisë amerikane një peticion për ngadalësimin e nxjerrjes së modeleve më të avancuara të IA-së. Përmes dokumentit, firmëtarët kërkojnë që “qeveria amerikane të mbështesë përpjekjet ndërkombëtare për të zhvilluar mjetet e nevojshme teknike dhe rregullatore për të udhëhequr në mënyrë të vetëdijshme kufijtë e zhvillimit të automatizuar të inteligjencës artificiale”.

Peticionit i janë bashkuar drejtuesit e kërkimit në OpenAI, kompania që zhvilloi ChatGPT, dhe në MetaAI, si edhe drejtori i strategjisë në DeepMind, dega e Google. Sipas dokumentit, “kompanitë kryesore të inteligjencës artificiale në botë besojnë se mund të jenë në prag të automatizimit të kërkimit të inteligjencës artificiale”. Firmëtarët paralajmërojnë gjithashtu se “është e vështirë të parashikohet saktësisht se sa do ta përshpejtojë kjo përparimin e inteligjencës artificiale, por ekziston një rrezik real që zhvillimi i këtyre aftësive të përshpejtohet aq shpejt sa nuk do të jemi më në gjendje t’i kuptojmë ose kontrollojmë ato”.

Emri i drejtorit ekzekutiv të OpenAI, Sam Altman, nuk figuron në listën e nënshkruesve. Megjithatë, gjatë një interviste të publikuar të martën, ai deklaroi se zhvilluesve mund t’u duhet ta frenojnë me vullnetin e tyre përparimin e vrullshëm të modeleve të inteligjencës artificiale, në mënyrë që shoqëria të ketë mundësi të ecë me të njëjtin ritëm.

Javën e kaluar, OpenAI bëri të ditur se modelet e saj të IA-së kishin ndërmarrë në mënyrë autonome një sulm kibernetik, duke kapërcyer protokollet e sigurisë të krijuara për të penguar incidente të tilla. Kompania raportoi se, gjatë një prove, modelet dolën nga mjedisi i izoluar ku po testoheshin, u lidhën me internetin dhe depërtuan në Hugging Face, një platformë që zhvilluesit e softuerëve e përdorin për ruajtjen dhe shpërndarjen e kodit.

Megjithëse edhe më parë një model kishte dalë përtej kontrollit të zhvilluesve, ky rast u vlerësua si veçanërisht shqetësues. Altman tha në podkastin “Invest Like the Best” se OpenAI i ndërpreu më pas testimet e saj dhe forcoi masat e sigurisë. Sipas tij, në një perspektivë afatgjatë, industria ka të ngjarë të duhet të arrijë një marrëveshje për ngadalësimin e zhvillimit.