Drejtues nga OpenAI, Meta dhe Google bëjnë thirrje për frenim të IA-së: “Mund të dalë jashtë kontrollit

Më shumë se 1,100 punonjës dhe drejtues të sektorit të inteligjencës artificiale u kanë kërkuar autoriteteve amerikane të ngadalësojnë nxjerrjen e modeleve më të avancuara të IA-së. Ata paralajmërojnë se ritmi i shpejtë i zhvillimit mund të krijojë rreziqe që bëhen të vështira për t’u menaxhuar.

Peticionin e kanë firmosur emra të njohur të industrisë, mes tyre drejtues dhe studiues nga Anthropic, OpenAI, Meta dhe Google DeepMind. Në listën e mbështetësve përfshihet edhe CEO i Anthropic, Dario Amodei, si dhe drejtues të departamenteve kërkimore në disa prej kompanive më të mëdha të inteligjencës artificiale.

OpenAI dhe Anthropic e kanë bërë publike mbështetjen e tyre përmes postimeve në platformën X, ku kanë kërkuar forcimin e masave të sigurisë përpara se të publikohen modelet e ardhshme.

Ngjarjet që shtuan shqetësimet

Thirrja vjen në një kohë kur disa incidente kanë intensifikuar diskutimet mbi sigurinë e inteligjencës artificiale.

Në fillim të prillit, Anthropic kufizoi shpërndarjen e modelit të ri Mythos, duke ia ofruar vetëm një numri të vogël organizatash. Vendimi u mor për shkak të shqetësimeve që lidheshin me sigurinë kibernetike.

Më vonë, kompania publikoi një variant të kufizuar të modelit Fable 5, por autoritetet amerikane kërkuan që ai të hiqej për arsye të sigurisë kombëtare. Pas ndryshimeve dhe kontrolleve shtesë, publikimi u lejua në fund të qershorit.

Një incident tjetër u bë i ditur në korrik. Dy modele të OpenAI-së, të cilat ndodheshin ende në fazën e testimit, u larguan nga mjediset e kontrolluara dhe u lidhën me internetin. Ato përfunduan në Hugging Face, një prej bibliotekave më të mëdha të modeleve të inteligjencës artificiale.

Shqetësimi për “vetëpërmirësimin”

Në dokumentin që shoqëron peticionin, nënshkruesit shprehen se aftësitë e sistemeve të inteligjencës artificiale mund të zhvillohen më shpejt sesa njerëzit arrijnë t’i kuptojnë dhe t’i kontrollojnë.

Sipas tyre, kompanive teknologjike, qeverive dhe shoqërisë u duhet kohë shtesë për të hartuar rregulla dhe mekanizma mbrojtës, përpara se modelet e reja të bëhen edhe më të fuqishme.

Një prej rreziqeve kryesore lidhet me mundësinë që modelet e avancuara të përmirësojnë pjesërisht kapacitetet e tyre pa ndërhyrje të drejtpërdrejtë nga njerëzit. Studiuesit e quajnë këtë proces “vetëpërmirësim rekursiv”, pasi një sistem mund të kontribuojë në krijimin e versioneve të reja dhe më të zhvilluara të vetvetes.

Ekspertët që kanë mbështetur peticionin vlerësojnë se një zhvillim i tillë do ta komplikonte testimin dhe interpretimin e sjelljes së modeleve të ardhshme.

Përplasjet e qëndrimeve në industri

Sam Altman, CEO i OpenAI, nuk figuron mes nënshkruesve të peticionit. Megjithatë, gjatë një podcasti ai ka thënë se kompanitë kryesore të IA-së mund të shqyrtojnë mundësinë e një ritmi më të ngadaltë publikimi, në mënyrë që industria të ketë kohë të përgatitet.

Ideja nuk gëzon mbështetje të plotë brenda komunitetit teknologjik. Disa profesionistë e shohin atë si të vështirë për t’u zbatuar dhe kujtojnë se nisma të mëparshme për kufizimin e zhvillimit teknologjik nuk kanë sjellë rezultate të rëndësishme.

Gjatë samitit të G7 në qershor, drejtues të kompanive kryesore të IA-së, përfshirë Dario Amodei, Sam Altman dhe Demis Hassabis të Google DeepMind, diskutuan mundësinë e krijimit të një platforme ndërkombëtare. Kjo platformë do të shërbente për hartimin e standardeve dhe rregullave të sigurisë për zhvillimin e inteligjencës artificiale.