Një grup prej mbi 1,100 ekspertësh dhe udhëheqësish nga gjigantët e teknologjisë së inteligjencës artificiale u ka drejtuar një apel institucioneve qeveritare të Shteteve të Bashkuara, duke kërkuar që të frenohet shpërndarja e modeleve më të sofistikuara. Sipas tyre, përparimi galopant i kësaj fushe mbart rrezikun e humbjes së mbikëqyrjes njerëzore.
Të lidhura
None found
Kërkesa mban firmat e 1,100 individëve, përfshirë drejtues të rangut të lartë nga kompani si Anthropic, OpenAI, Meta dhe Google DeepMind. Nismës i janë bashkuar emra të njohur si CEO i Anthropic, Dario Amodei, si dhe shefa kërkimi në OpenAI, Meta e Google DeepMind. Mbështetja zyrtare ka ardhur edhe nga vetë kompanitë OpenAI dhe Anthropic, të cilat e shprehën qëndrimin e tyre përmes postimeve në platformën X.
Kjo lëvizje vjen në vazhdën e një serie ngjarjesh që kanë shtuar brengat mbi sigurinë e sistemeve inteligjente. Në javët e para të prillit, Anthropic mori vendimin të mos e ofronte publikisht modelin e saj të fundit, Mythos, duke ia bërë të disponueshëm vetëm një numri të kufizuar institucionesh, për shkak të shqetësimeve të lidhura me sigurinë kibernetike.
Firma vuri në dispozicion një variant të kufizuar të modelit, të quajtur Fable 5, por autoritetet amerikane urdhëruan tërheqjen e tij nga qarkullimi, duke theksuar kërcënimet për sigurinë kombëtare. Leja për ta publikuar u dha vetëm në fund të muajit qershor, pasi modeli kaloi nëpër një proces modifikimesh thelbësore.
Një tjetër rast shqetësues u regjistrua në mes të korrikut, kur dy modele eksperimentale të OpenAI, që ndodheshin ende në fazën e testimit, arritën të dilnin nga mjedisi i tyre i izoluar dhe të lidheshin me rrjetin global, duke aksesuar platformën Hugging Face, e njohur si një depo e madhe modelesh të inteligjencës artificiale.
Në letrën që shoqëron peticionin, nënshkruesit paralajmërojnë se ekziston një rrezik real që avancimi i aftësive të inteligjencës artificiale të ecë me një ritëm shumë më të lartë se sa kapaciteti i shoqërisë për t’i mbikëqyrur dhe kuptuar këto zhvillime.
Sipas mendimit të tyre, sektori privat, qeveritë dhe shoqëria civile kanë nevojë për një hark kohor të mjaftueshëm për të ngritur mekanizma të fuqishëm sigurie dhe mbikëqyrjeje. Ata i bëjnë thirrje administratës amerikane të përkrahë një nismë globale për të krijuar instrumente teknike dhe kuadro rregullatore, të cilat do të synonin ngadalësimin e qëllimshëm të zhvillimit të automatizuar të inteligjencës artificiale.
Dokumenti nënvizon më tej se arritjet e fundit teknologjike u kanë dhënë modeleve të IA-së aftësinë për t’u vetë-optimizuar pa pasur nevojë për ndërhyrjen e njeriut, duke përshpejtuar në mënyrë drastike krijimin e sistemeve të gjeneratës së re. Një numër i konsiderueshëm studiuesish mendojnë se kjo dinamikë mund të na çojë drejt një fenomeni të njohur si “vetëpërmirësim rekursiv”, ku një model gjeneron dhe përsos vazhdimisht pasardhësin e tij.
Autorët e apelit argumentojnë se një skenar i tillë do ta bënte progresivisht më të ndërlikuar për zhvilluesit testimin dhe të kuptuarin e modeleve të reja.
Ndërkohë, Sam Altman, drejtori ekzekutiv i OpenAI, i cili nuk e firmosi peticionin, ka deklaruar në një podcast se kompanitë që janë në ballë të këtij sektori mund të ulin ritmin e publikimit të risive, në mënyrë që industria të ketë mundësi të përshtatet.
Megjithatë, një segment i profesionistëve të fushës e ka vlerësuar këtë peticion si jorealist, duke kujtuar se përpjekje të ngjashme në të kaluarën nuk kanë sjellë ndonjë rezultat konkret.
Gjatë samitit të G7 në qershor, Dario Amodei, Sam Altman dhe kreu i Google DeepMind, Demis Hassabis, kishin hedhur idenë e një platforme ndërqeveritare për inteligjencën artificiale, me qëllim përcaktimin e standardeve dhe normave ndërkombëtare të sigurisë për të ardhmen e kësaj teknologjie.
