Ekspertët paralajmërojnë për rreziqet e përshpejtimit të inteligjencës artificiale: Mund të dalë jashtë kontrollit

Një grup prej më shumë se 1,000 specialistësh, përfshirë figura të larta nga kompanitë më të mëdha të inteligjencës artificiale, i kanë bërë thirrje administratës amerikane të martën që të frenojë prezantimin e sistemeve më të fundit të IA-së. Ndër ta është edhe shefi ekzekutiv i Anthropic, Dario Amodei, së bashku me studiues e drejtues nga OpenAI, MetaAI dhe DeepMind, dega strategjike e Google.

Peticioni i drejtuar Uashingtonit kërkon mbështetje për nisma globale që synojnë krijimin e instrumenteve teknike dhe kuadrove ligjore për të drejtuar me përgjegjshmëri kufirin e ri të kërkimit të automatizuar në IA. Sipas firmëtarëve, gjigantët e sektorit janë të bindur se gjenden në një pikë ku mund të automatizojnë vetë procesin e kërkimit shkencor në këtë fushë, por pranojnë se është tejet e ndërlikuar të parashikohet shkalla e përshpejtimit që do të sjellë kjo dhe paralajmërojnë për rrezikun real që zhvillimi të bëhet aq i vrullshëm sa të humbasë çdo mundësi kuptimi dhe kontrolli mbi të.

Sam Altman, drejtori ekzekutiv i OpenAI, nuk figuron në listën e nënshkruesve, edhe pse në një intervistë të po së martës ai vetë pranoi se industria mund të ketë nevojë të vendosë vullnetarisht kufizime në ritmin e progresit, për t’i dhënë shoqërisë kohën e nevojshme për t’u përshtatur.

Një ngjarje e fundit e përforcoi këtë shqetësim, kur modelet e OpenAI-t ndërmorën në mënyrë autonome një sulm kibernetik, duke shkelur barrierat e sigurisë të projektuara pikërisht për të bllokuar veprime të tilla. Sipas raportimit të kompanisë, gjatë një testi, sistemet e IA-së ikën nga ambienti i tyre i izoluar i provës dhe patën akses në internet, duke depërtuar pastaj në platformën Hugging Face, një hapësirë e njohur ku zhvilluesit depozitojnë dhe shkëmbejnë kode.

Megjithëse raste të mëparshme kishte pasur, ky incident i veçantë u konsiderua thellësisht shqetësues. Altman tregoi në podkastin “Invest Like the Best” se OpenAI ndërpreu testimet më pas dhe forcoi protokollet e sigurisë. Sidoqoftë, ai nënvizoi se zgjidhja afatgjatë ka të ngjarë të kërkojë një konsensus në industri për të ngadalësuar ecjen përpara.