Më shumë se 1,100 punonjës dhe drejtues të sektorit të inteligjencës artificiale u kanë bërë thirrje autoriteteve të Shteteve të Bashkuara të ngadalësojnë nxjerrjen e modeleve më të përparuara të IA-së. Ata paralajmërojnë se ritmi i shpejtë i zhvillimit të teknologjisë mund të krijojë rreziqe që vështirë se mund të mbahen nën kontroll.
Të lidhura
None found
Thirrja mban firmat e disa figurave të njohura të industrisë, mes të cilëve drejtues dhe studiues të Anthropic, OpenAI, Meta dhe Google DeepMind. Nismës i është bashkuar gjithashtu CEO i Anthropic, Dario Amodei, krahas drejtuesve të sektorëve të kërkimit në disa nga kompanitë më të mëdha të IA-së.
Përmes postimeve në platformën X, OpenAI dhe Anthropic kanë shprehur publikisht mbështetjen për nismën, duke kërkuar që përpara publikimit të modeleve të reja të vendosen masa më të shumta sigurie.
Rastet që shtuan shqetësimet
Kjo kërkesë pason disa incidente që kanë nxitur diskutime më të forta rreth sigurisë së inteligjencës artificiale.
Në fillim të prillit, Anthropic kufizoi publikimin e modelit të ri Mythos për shkak të shqetësimeve që lidheshin me sigurinë kibernetike, duke ua mundësuar përdorimin vetëm një numri të kufizuar organizatash.
Më vonë, kompania nxori një variant të kufizuar të modelit Fable 5. Megjithatë, autoritetet amerikane kërkuan që ai të tërhiqej për arsye të sigurisë kombëtare. Leja për publikim u dha vetëm në fund të qershorit, pasi u kryen disa ndryshime dhe kontrolle shtesë.
Një incident tjetër u bë publik në korrik. Dy modele të OpenAI, të cilat ndodheshin ende në fazën e testimit, arritën të dilnin nga mjediset e kontrolluara, të lidheshin me internetin dhe të përfundonin në Hugging Face, një prej bibliotekave më të mëdha të modeleve të inteligjencës artificiale.
Shqetësimi për “vetëpërmirësimin” e IA-së
Në materialin që shoqëron peticionin, firmëtarët ngrenë alarmin se aftësitë e inteligjencës artificiale mund të përparojnë me ritëm më të lartë sesa kapaciteti i njerëzve për t’i kuptuar dhe administruar këto sisteme.
Ata argumentojnë se shoqërisë, qeverive dhe kompanive të teknologjisë u duhet më shumë kohë për të ngritur mekanizma sigurie dhe për të hartuar rregulla, përpara se modelet e ardhshme të fitojnë fuqi më të madhe.
Ndër shqetësimet kryesore përmendet mundësia që modelet e avancuara të arrijnë t’i përmirësojnë pjesërisht aftësitë e tyre pa ndërhyrjen e drejtpërdrejtë të njeriut. Studiuesit e quajnë këtë dukuri “vetëpërmirësim rekursiv”, një proces në të cilin sistemi mund të kontribuojë në krijimin e varianteve të veta më të përparuara.
Sipas ekspertëve që kanë mbështetur peticionin, një zhvillim i tillë do ta vështirësonte më tej testimin e modeleve të reja dhe kuptimin e mënyrës se si ato sillen.
Përplasja e qëndrimeve brenda industrisë
Sam Altman, CEO i OpenAI, nuk figuron mes nënshkruesve. Megjithatë, gjatë një podcast-i ai ka deklaruar se kompanitë kryesore të inteligjencës artificiale mund të shqyrtojnë mundësinë e një ritmi më të ngadaltë publikimi, në mënyrë që industria të ketë kohë të përgatitet.
Kjo qasje nuk gëzon mbështetjen e të gjithë profesionistëve të teknologjisë. Disa prej tyre e shohin kërkesën si të vështirë për t’u vënë në praktikë dhe theksojnë se nisma të ngjashme për kufizimin e përparimit teknologjik nuk kanë prodhuar rezultate të mëdha në të kaluarën.
Gjatë samitit të G7 në qershor, drejtues të kompanive kryesore të inteligjencës artificiale diskutuan ngritjen e një platforme ndërkombëtare që do të hartonte standarde dhe rregulla sigurie për zhvillimin e IA-së. Në këto bisedime morën pjesë edhe Dario Amodei, Sam Altman dhe Demis Hassabis nga Google DeepMind.
