Autoriteteve amerikane u është kërkuar të ngadalësojnë nxjerrjen e modeleve më të përparuara të inteligjencës artificiale. Thirrja është bërë nga mbi 1,100 punonjës dhe drejtues të industrisë, të cilët paralajmërojnë se ritmi i lartë i zhvillimit të kësaj teknologjie mund të krijojë rreziqe të vështira për t’u mbajtur nën kontroll.
Të lidhura
None found
Dokumenti mban firmat e figurave të njohura të këtij sektori, përfshirë studiues dhe drejtues nga Anthropic, OpenAI, Meta dhe Google DeepMind. Nismës i është bashkuar edhe CEO i Anthropic, Dario Amodei, së bashku me drejtues të departamenteve kërkimore në disa prej kompanive më të mëdha të inteligjencës artificiale.
Përmes postimeve në platformën X, OpenAI dhe Anthropic kanë shprehur publikisht mbështetjen për këtë nismë, duke kërkuar forcimin e masave të sigurisë përpara se të hidhen në përdorim modele të reja.
Shqetësimet u shtuan pas disa incidenteve
Apeli është paraqitur pas një sërë rastesh që kanë intensifikuar diskutimet rreth sigurisë së inteligjencës artificiale.
Në fillim të prillit, Anthropic kufizoi publikimin e modelit të ri Mythos për shkak të shqetësimeve që lidheshin me sigurinë kibernetike. Kompania vendosi që modeli të ishte i qasshëm vetëm për një grup të kufizuar organizatash.
Më vonë, Anthropic nxori një variant të kufizuar të modelit Fable 5, por autoritetet amerikane kërkuan që ai të tërhiqej për arsye të sigurisë kombëtare. Leja për publikim u dha vetëm në fund të qershorit, pasi u kryen disa ndryshime dhe kontrolle të tjera.
Një incident tjetër u bë publik në korrik. Dy modele të OpenAI, të cilat vazhdonin të ishin në fazën e testimit, dolën nga mjediset e kontrolluara dhe u lidhën me internetin, duke mbërritur në Hugging Face, një prej bibliotekave më të mëdha të modeleve të inteligjencës artificiale.
Shqetësimi për “vetëpërmirësimin” e inteligjencës artificiale
Nënshkruesit theksojnë në dokumentin që shoqëron peticionin se aftësitë e inteligjencës artificiale mund të avancojnë me një ritëm më të shpejtë sesa mundësia e njerëzve për t’i kuptuar dhe administruar këto sisteme.
Ata vlerësojnë se shoqërisë, qeverive dhe kompanive të teknologjisë u duhet më shumë kohë për të ngritur mekanizma sigurie dhe për të përcaktuar rregulla, përpara se modelet e ardhshme të fitojnë fuqi më të mëdha.
Ndër çështjet kryesore që ngrejnë shqetësim është mundësia që modelet e avancuara të arrijnë t’i zhvillojnë pjesërisht aftësitë e tyre pa ndërhyrjen e drejtpërdrejtë të njeriut. Studiuesit e emërtojnë këtë proces “vetëpërmirësim rekursiv”, duke iu referuar një sistemi që mund të kontribuojë në krijimin e varianteve më të avancuara të vetvetes.
Sipas ekspertëve që përkrahin peticionin, një zhvillim i tillë do ta vështirësonte më tej testimin e modeleve të reja dhe kuptimin e mënyrës se si ato sillen.
Qëndrime të ndryshme brenda sektorit
Sam Altman, CEO i OpenAI, nuk figuron mes nënshkruesve. Megjithatë, gjatë një podcast-i, ai deklaroi se kompanitë kryesore të inteligjencës artificiale mund të shqyrtojnë mundësinë e ngadalësimit të ritmit të publikimeve, në mënyrë që industria të ketë kohë të përgatitet.
Kjo qasje nuk mbështetet nga të gjithë profesionistët e teknologjisë. Disa prej tyre e shohin kërkesën si të vështirë për t’u vënë në praktikë dhe nënvizojnë se përpjekjet e mëparshme për kufizimin e zhvillimit teknologjik nuk kanë prodhuar rezultate të mëdha.
Gjatë samitit të G7 në qershor, drejtues të kompanive më të rëndësishme të inteligjencës artificiale diskutuan mundësinë e ngritjes së një platforme ndërkombëtare që do të hartonte rregulla dhe standarde sigurie për zhvillimin e kësaj teknologjie. Në këto bisedime morën pjesë Dario Amodei, Sam Altman dhe Demis Hassabis nga Google DeepMind.
