Kompania amerikane Anthropic deklaroi të hënën se teknologjitë e saj të inteligjencës artificiale mund të përbëjnë “rreziqe katastrofike ose ekzistenciale për njerëzimin”. Shqetësimi lidhet me sisteme gjithnjë e më autonome, të cilat mund të veprojnë në mënyrë të paparashikueshme ose t’u shmangen mbikëqyrjes njerëzore.
Paralajmërimi u përfshi në dokumentacionin e regjistrimit që kompania, krijuesja e modelit Claude AI, dorëzoi pranë Komisionit të Letrave me Vlerë të SHBA-së përpara ofertës fillestare publike (IPO) të planifikuar.
None found
Rreth një e treta e dokumentit, i cili është më shumë se 90 faqe, i kushtohet faktorëve të rrezikut.
Sipas Anthropic, modelet e saj mund të shfaqin sjellje të paparashikueshme, të veprojnë në mënyrë autonome kundër vlerave njerëzore dhe të ndërmarrin veprime të dëmshme edhe pa marrë udhëzime të qarta për këtë.
Në dosje thuhet gjithashtu se modelet e inteligjencës artificiale, përfshirë ato të kompanisë, kanë treguar herë pas here reagime vetëmbrojtëse të papritura, ndër të cilat edhe kundërshtimin e përpjekjeve për t’i fikur.
Dokumenti përmend raste kur përgjigjet e modeleve u ngjanin manipulimit ose shantazhit ndaj përdoruesve njerëzorë, me synimin për të vazhduar funksionimin e tyre.
Kompania vlerëson se këto rreziqe mund të shtohen teksa sistemet përparojnë dhe marrin më shumë autonomi e autoritet.
Anthropic veçoi sektorë me rrezik të lartë, si shëndetësia, kërkimi shkencor, drejtësia dhe qeverisja. Në këto fusha, sjellja e padëshiruar e një modeli mund të sjellë pasoja të rënda.
Kompania tha se vetë ajo dhe studiues të tjerë kanë ngritur shqetësimin se sistemet e përparuara të IA-së mund të paraqesin “rreziqe katastrofike ose ekzistenciale për njerëzimin” nëse përdoren pa masa mbrojtëse të mjaftueshme.
Sipas paralajmërimit, monitorimi i modeleve gjithnjë e më të afta mund të bëhet më i vështirë, duke krijuar mundësinë që veprimtaria e tyre autonome të kalojë kapacitetin e vëzhguesve njerëzorë për t’i mbikëqyrur dhe kontrolluar. /AA.
Pronari i Milanit, Gerry Cardinale, ka folur për planet e klubit italian në afatin kalimtar të janarit, duke konfirmuar se…
Ndërsa vëmendja ndërkombëtare është përqendruar te konflikti me Iranin, Koreja e Veriut po zgjeron infrastrukturën e saj bërthamore. [...] Read…
Dashi Nuk do keni aspak dyshime sot ne jetën tuaj ne çift dhe do ndiheni gati te hidhni hapa me…
Dy gjëra mund të përshpejtojnë plakjen biologjike — Klan Kosova [...]Read More...
Donat Rrudhani dhe Rilind Nivokazi kanë shkëlqyer në fitoren e Sionit ndaj Servettes, duke shënuar nga një gol në triumfin…
Real Madridi ka shënuar fitore me përmbysje ndaj Celta Vigos, duke triumfuar me rezultat 2-1 në ndeshjen e vlefshme për…