Anthropic ngre alarmin për rreziqe katastrofike dhe ekzistenciale nga IA-ja

Kompania amerikane Anthropic deklaroi të hënën se teknologjitë e saj të inteligjencës artificiale mund të përbëjnë “rreziqe katastrofike ose ekzistenciale për njerëzimin”. Shqetësimi lidhet me sisteme gjithnjë e më autonome, të cilat mund të veprojnë në mënyrë të paparashikueshme ose t’u shmangen mbikëqyrjes njerëzore.

Paralajmërimi u përfshi në dokumentacionin e regjistrimit që kompania, krijuesja e modelit Claude AI, dorëzoi pranë Komisionit të Letrave me Vlerë të SHBA-së përpara ofertës fillestare publike (IPO) të planifikuar.

Rreth një e treta e dokumentit, i cili është më shumë se 90 faqe, i kushtohet faktorëve të rrezikut.

Sipas Anthropic, modelet e saj mund të shfaqin sjellje të paparashikueshme, të veprojnë në mënyrë autonome kundër vlerave njerëzore dhe të ndërmarrin veprime të dëmshme edhe pa marrë udhëzime të qarta për këtë.

Në dosje thuhet gjithashtu se modelet e inteligjencës artificiale, përfshirë ato të kompanisë, kanë treguar herë pas here reagime vetëmbrojtëse të papritura, ndër të cilat edhe kundërshtimin e përpjekjeve për t’i fikur.

Dokumenti përmend raste kur përgjigjet e modeleve u ngjanin manipulimit ose shantazhit ndaj përdoruesve njerëzorë, me synimin për të vazhduar funksionimin e tyre.

Kompania vlerëson se këto rreziqe mund të shtohen teksa sistemet përparojnë dhe marrin më shumë autonomi e autoritet.

Anthropic veçoi sektorë me rrezik të lartë, si shëndetësia, kërkimi shkencor, drejtësia dhe qeverisja. Në këto fusha, sjellja e padëshiruar e një modeli mund të sjellë pasoja të rënda.

Kompania tha se vetë ajo dhe studiues të tjerë kanë ngritur shqetësimin se sistemet e përparuara të IA-së mund të paraqesin “rreziqe katastrofike ose ekzistenciale për njerëzimin” nëse përdoren pa masa mbrojtëse të mjaftueshme.

Sipas paralajmërimit, monitorimi i modeleve gjithnjë e më të afta mund të bëhet më i vështirë, duke krijuar mundësinë që veprimtaria e tyre autonome të kalojë kapacitetin e vëzhguesve njerëzorë për t’i mbikëqyrur dhe kontrolluar. /AA.