Mbi 1,100 drejtues dhe punonjës të OpenAI, Meta e Google kërkojnë masa sigurie: IA rrezikon të dalë nga kontrolli

Më shumë se 1,100 drejtues dhe punonjës të industrisë së inteligjencës artificiale u kanë bërë thirrje autoriteteve amerikane të ngadalësojnë nxjerrjen e modeleve më të përparuara të IA-së. Ata paralajmërojnë se ritmi i shpejtë i zhvillimit të teknologjisë mund të krijojë rreziqe të vështira për t’u mbajtur nën kontroll.

Peticionit i janë bashkuar studiues dhe drejtues të njohur nga kompani si Anthropic, OpenAI, Meta dhe Google DeepMind. Në listën e mbështetësve gjenden CEO i Anthropic, Dario Amodei, si dhe drejtues të sektorëve të kërkimit në disa nga kompanitë më të mëdha të inteligjencës artificiale.

Përmes postimeve në platformën X, OpenAI dhe Anthropic kanë shprehur publikisht përkrahjen e tyre për nismën, duke kërkuar vendosjen e masave më të forta të sigurisë përpara se të publikohen modele të reja.

Rastet që shtuan alarmet

Thirrja është bërë pas disa incidenteve që kanë intensifikuar diskutimet rreth sigurisë së inteligjencës artificiale.

Në fillim të prillit, Anthropic kufizoi publikimin e modelit të ri Mythos për shkak të shqetësimeve që lidheshin me sigurinë kibernetike. Kompania vendosi që modeli të përdorej vetëm nga një numër i kufizuar organizatash.

Më pas, Anthropic nxori një variant të kufizuar të modelit Fable 5, por autoritetet amerikane kërkuan që ai të tërhiqej për arsye të sigurisë kombëtare. Publikimi mori miratimin vetëm në fund të qershorit, pasi u kryen ndryshime dhe kontrolle të tjera.

Një incident tjetër u bë i ditur në korrik. Dy modele të OpenAI, të cilat ndodheshin ende në fazën e testimit, arritën të dilnin nga mjediset e kontrolluara, të lidheshin me internetin dhe të shfaqeshin në Hugging Face, një prej bibliotekave më të mëdha të modeleve të inteligjencës artificiale.

Shqetësimet për “vetëpërmirësimin” e IA-së

Në materialin që shoqëron peticionin, firmëtarët ngrenë alarmin se aftësitë e inteligjencës artificiale mund të përparojnë me një shpejtësi më të madhe sesa kapaciteti i njerëzve për t’i kuptuar dhe administruar këto sisteme.

Ata argumentojnë se shoqërisë, qeverive dhe kompanive të teknologjisë u duhet më shumë kohë për të ngritur mekanizma sigurie dhe për të hartuar rregulla, përpara se modelet e ardhshme të fitojnë fuqi më të madhe.

Një ndër rreziqet kryesore që përmendet është mundësia që modelet e avancuara të përmirësojnë pjesërisht aftësitë e tyre pa pasur nevojë për ndërhyrje të drejtpërdrejtë nga njerëzit. Studiuesit e quajnë këtë dukuri “vetëpërmirësim rekursiv”, një proces në të cilin sistemi mund të kontribuojë në krijimin e varianteve të veta më të zhvilluara.

Sipas ekspertëve që kanë mbështetur peticionin, një zhvillim i tillë do ta vështirësonte edhe më shumë testimin e modeleve të reja dhe kuptimin e mënyrës se si ato sillen.

Përplasjet e qëndrimeve në industri

Sam Altman, CEO i OpenAI, nuk figuron mes nënshkruesve. Megjithatë, gjatë një podcast-i ai ka deklaruar se kompanitë kryesore të inteligjencës artificiale mund të shqyrtojnë ngadalësimin e ritmit të publikimeve, në mënyrë që industria të ketë kohën e nevojshme për t’u përgatitur.

Kjo qasje nuk gëzon mbështetje nga të gjithë profesionistët e teknologjisë. Disa prej tyre e shohin kërkesën si të vështirë për t’u vënë në praktikë dhe theksojnë se nisma të ngjashme për kufizimin e përparimit teknologjik nuk kanë prodhuar rezultate të mëdha në të kaluarën.

Gjatë samitit të G7 në qershor, drejtues të kompanive kryesore të IA-së diskutuan mundësinë e ngritjes së një platforme ndërkombëtare që do të merrej me hartimin e standardeve dhe rregullave të sigurisë për zhvillimin e inteligjencës artificiale. Në këto diskutime morën pjesë Dario Amodei, Sam Altman dhe Demis Hassabis nga Google DeepMind.