Më shumë se 1,100 punonjës dhe drejtues të industrisë së inteligjencës artificiale u kanë bërë thirrje autoriteteve amerikane të ngadalësojnë nxjerrjen e modeleve më të avancuara të IA-së. Sipas tyre, ritmi i lartë i zhvillimit të kësaj teknologjie mund të krijojë rreziqe që vështirësojnë kontrollin e saj.
Të lidhura
None found
Peticionin e kanë firmosur emra të njohur të sektorit, mes tyre drejtues dhe studiues nga Anthropic, OpenAI, Meta dhe Google DeepMind. Në listën e mbështetësve ndodhet edhe CEO i Anthropic, Dario Amodei, si dhe drejtues të departamenteve kërkimore të disa prej kompanive më të mëdha të inteligjencës artificiale.
OpenAI dhe Anthropic e kanë bërë publike mbështetjen për nismën përmes postimeve në platformën X, ku kanë kërkuar forcimin e masave të sigurisë përpara se të publikohen modele të reja.
Rastet që shtuan shqetësimin për sigurinë
Thirrja është bërë në një kohë kur disa incidente kanë rritur diskutimet rreth sigurisë së inteligjencës artificiale.
Në fillim të prillit, Anthropic kufizoi nxjerrjen e modelit të ri Mythos. Modeli iu vu në dispozicion vetëm një numri të përzgjedhur organizatash, për shkak të shqetësimeve që lidhen me sigurinë kibernetike.
Më vonë, kompania publikoi një variant të kufizuar të modelit Fable 5, por autoritetet amerikane kërkuan që ai të tërhiqej për arsye të sigurisë kombëtare. Publikimi u lejua sërish vetëm pas zbatimit të disa ndryshimeve dhe kontrolleve shtesë, në fund të qershorit.
Një incident tjetër u bë i ditur në korrik. Dy modele të OpenAI-së, të cilat ndodheshin ende në fazën e testimit, u larguan nga mjediset e kontrolluara dhe u lidhën me internetin, duke përfunduar në Hugging Face, një prej bibliotekave më të mëdha të modeleve të inteligjencës artificiale.
Paralajmërimet për “vetëpërmirësimin”
Në dokumentin që shoqëron peticionin, nënshkruesit shprehen se aftësitë e inteligjencës artificiale mund të përparojnë më shpejt sesa kapaciteti i njerëzve për t’i kuptuar dhe administruar këto sisteme.
Ata argumentojnë se kompanive teknologjike, qeverive dhe shoqërisë u duhet më shumë kohë për të krijuar rregulla dhe struktura sigurie, përpara se modelet e ardhshme të fitojnë fuqi më të madhe.
Një prej rreziqeve kryesore lidhet me mundësinë që modelet e avancuara të përmirësojnë pjesërisht aftësitë e tyre pa ndërhyrje të drejtpërdrejtë nga njerëzit. Studiuesit e quajnë këtë proces “vetëpërmirësim rekursiv”, pasi një sistem mund të kontribuojë në ndërtimin e versioneve të reja dhe më të zhvilluara të vetes.
Sipas ekspertëve që kanë mbështetur peticionin, një zhvillim i tillë do ta komplikonte testimin dhe kuptimin e mënyrës se si sillen modelet e reja.
Qëndrimet e ndryshme në industri
Sam Altman, CEO i OpenAI, nuk figuron mes personave që kanë firmosur dokumentin. Megjithatë, gjatë një podcasti ai ka deklaruar se kompanitë kryesore të IA-së mund të shqyrtojnë mundësinë e një ritmi më të ngadaltë publikimi, në mënyrë që industrisë t’i jepet kohë të përgatitet.
Ideja nuk gëzon mbështetje të plotë në radhët e profesionistëve të teknologjisë. Disa prej tyre e vlerësojnë kërkesën si të vështirë për t’u zbatuar dhe kujtojnë se përpjekje të ngjashme për të kufizuar përparimin teknologjik nuk kanë sjellë rezultate të rëndësishme në të kaluarën.
Gjatë samitit të G7 në qershor, drejtues të kompanive kryesore të IA-së, përfshirë Dario Amodei, Sam Altman dhe Demis Hassabis nga Google DeepMind, diskutuan mundësinë e krijimit të një platforme ndërkombëtare për hartimin e standardeve dhe rregullave të sigurisë për zhvillimin e inteligjencës artificiale.
