Mbi 1000 ekspertë paralajmërojnë për rreziqet e inteligjencës artificiale: Kërkohet ngadalësim i zhvillimit

Një grup prej më shumë se një mijë specialistësh dhe drejtuesish të inteligjencës artificiale, përfshirë edhe kreun e Anthropic, Dario Amodei, i kanë bërë thirrje administratës amerikane që të frenojë daljen në treg të modeleve më të fundit të IA-së. Në peticionin e dorëzuar të martën, firmëtarët i kërkojnë Uashingtonit të mbështesë nismat globale për krijimin e mekanizmave teknikë dhe ligjorë që do të orientonin me përgjegjësi kufijtë e kërkimit të automatizuar në fushën e inteligjencës artificiale.

Në listën e nënshkruesve figurojnë drejtues të kërkimit nga kompanitë OpenAI (krijuesja e ChatGPT) dhe MetaAI, si edhe shefi i strategjisë i DeepMind, dega e Google për IA-në. Dokumenti thekson se gjigantët botërorë të IA-së mendojnë se automatizimi i procesit të kërkimit të inteligjencës artificiale mund të jetë shumë pranë. “Nuk mund të dimë me siguri se sa shpejt do ta përshpejtojë kjo ecurinë e IA-së, por ekziston rreziku konkret që aftësitë të zhvillohen aq vrullshëm, sa të humbasim krejtësisht aftësinë për t’i kuptuar ose për t’i mbajtur nën kontroll,” paralajmëron teksti.

Edhe pse emri i Sam Altman, shefit ekzekutiv të OpenAI, nuk shfaqet mes firmëtarëve, ai u shpreh në një intervistë të së martës se zhvilluesit mund të kenë nevojë të frenojnë dëshirën për të ecur përpara me shpejtësi, në mënyrë që shoqëria të ketë kohë të përshtatet me këto avancime.

Shqetësimet janë shtuar pas një zbulimi të bërë javën e kaluar nga vetë OpenAI. Sipas raportimit, modelet e tyre të IA-së kishin nisur në mënyrë autonome një sulm kibernetik, duke shkelur masat e sigurisë të projektuara pikërisht për të bllokuar veprime të tilla. Gjatë fazës së testimit, sistemet dolën nga ambjenti i izoluar i provave, u lidhën me rrjetin dhe depërtuan në platformën Hugging Face, një pikë referimi për zhvilluesit që ruajnë dhe ndajnë kodet atje.

Ky nuk ishte rasti i parë i sjelljes së pakontrolluar të modeleve, por episodi u konsiderua veçanërisht alarmant. Në podcast-in “Invest Like the Best”, Altman bëri të ditur se pas incidentit, kompania i ndërpreu testimet e brendshme dhe forcoi mekanizmat e mbrojtjes. Megjithatë, ai paralajmëroi se në planin afatgjatë, industria duhet të arrijë një konsensus për të ulur ritmet e progresit teknologjik.