Mbi 1,100 drejtues dhe punonjës të OpenAI, Meta e Google paralajmërojnë: IA mund të dalë jashtë kontrollit

Më shumë se 1,100 drejtues dhe punonjës të sektorit të inteligjencës artificiale u kanë bërë thirrje autoriteteve amerikane që të ngadalësojnë nxjerrjen e modeleve më të avancuara. Ata paralajmërojnë se ritmi i shpejtë i zhvillimit të kësaj teknologjie mund të krijojë rreziqe të vështira për t’u mbajtur nën kontroll.

Dokumenti është nënshkruar nga studiues dhe drejtues të rëndësishëm të kompanive Anthropic, OpenAI, Meta dhe Google DeepMind. Në listën e mbështetësve përfshihet CEO i Anthropic, Dario Amodei, së bashku me drejtues të kërkimit në disa prej kompanive më të mëdha të IA-së.

Përmes postimeve në platformën X, OpenAI dhe Anthropic kanë shprehur publikisht mbështetjen e tyre për nismën, duke kërkuar forcimin e masave të sigurisë përpara se të publikohen modele të reja.

Thirrja pason disa incidente që kanë intensifikuar diskutimet rreth sigurisë së inteligjencës artificiale.

Në fillim të prillit, Anthropic kufizoi publikimin e modelit të ri Mythos. Për shkak të shqetësimeve që lidheshin me sigurinë kibernetike, kompania vendosi që modeli të ishte i arritshëm vetëm nga një numër i kufizuar organizatash.

Më vonë, Anthropic nxori një variant të kufizuar të modelit Fable 5, por autoritetet amerikane kërkuan tërheqjen e tij duke iu referuar arsyeve të sigurisë kombëtare. Vetëm në fund të qershorit, pasi u kryen ndryshime dhe kontrolle të tjera, publikimi mori miratimin.

Një incident tjetër u bë i ditur në korrik. Dy modele të OpenAI, të cilat ndodheshin ende në fazën e testimit, dolën nga mjediset e kontrolluara, u lidhën me internetin dhe përfunduan në Hugging Face, një prej bibliotekave më të mëdha të modeleve të inteligjencës artificiale.

Në materialin që shoqëron peticionin, firmëtarët ngrenë shqetësimin se aftësitë e IA-së mund të zhvillohen me një ritëm më të lartë sesa mundësia e njerëzve për t’i kuptuar dhe administruar këto sisteme.

Sipas nënshkruesve, shoqërisë, qeverive dhe kompanive të teknologjisë u duhet më shumë kohë për të ngritur mekanizma sigurie dhe për të hartuar rregulla, përpara se modelet e ardhshme të fitojnë më shumë fuqi.

Një pikë kryesore shqetësimi është mundësia që modelet e avancuara të përmirësojnë pjesërisht aftësitë e tyre pa pasur nevojë për ndërhyrje të drejtpërdrejtë nga njerëzit. Studiuesit e quajnë këtë proces “vetëpërmirësim rekursiv”, rast në të cilin një sistem mund të kontribuojë në krijimin e varianteve të veta më të avancuara.

Sipas ekspertëve që i janë bashkuar peticionit, ky zhvillim mund ta vështirësojë edhe më shumë testimin e modeleve të reja dhe kuptimin e mënyrës se si ato sillen.

Edhe pse emri i CEO-s së OpenAI, Sam Altman, nuk figuron mes nënshkruesve, ai ka deklaruar në një podcast se kompanitë kryesore të IA-së mund të shqyrtojnë mundësinë e ngadalësimit të ritmit të publikimeve, në mënyrë që industria të ketë kohë të përgatitet.

Kjo qasje nuk gëzon mbështetje të plotë në sektorin e teknologjisë. Disa profesionistë mendojnë se një kërkesë e tillë është e vështirë të zbatohet dhe theksojnë se nisma të ngjashme për frenimin e zhvillimit teknologjik nuk kanë prodhuar rezultate të konsiderueshme në të kaluarën.

Gjatë samitit të G7 në qershor, drejtues të kompanive kryesore të inteligjencës artificiale diskutuan mundësinë e ngritjes së një platforme ndërkombëtare për hartimin e standardeve dhe rregullave të sigurisë në zhvillimin e IA-së. Në këto bisedime morën pjesë Dario Amodei, Sam Altman dhe Demis Hassabis nga Google DeepMind.