Categories: tech

Anthropic ngre alarmin për rreziqe katastrofike dhe ekzistenciale nga IA-ja

Kompania amerikane Anthropic deklaroi të hënën se teknologjitë e saj të inteligjencës artificiale mund të përbëjnë “rreziqe katastrofike ose ekzistenciale për njerëzimin”. Shqetësimi lidhet me sisteme gjithnjë e më autonome, të cilat mund të veprojnë në mënyrë të paparashikueshme ose t’u shmangen mbikëqyrjes njerëzore.

Paralajmërimi u përfshi në dokumentacionin e regjistrimit që kompania, krijuesja e modelit Claude AI, dorëzoi pranë Komisionit të Letrave me Vlerë të SHBA-së përpara ofertës fillestare publike (IPO) të planifikuar.

Të lidhura

None found

Rreth një e treta e dokumentit, i cili është më shumë se 90 faqe, i kushtohet faktorëve të rrezikut.

Sipas Anthropic, modelet e saj mund të shfaqin sjellje të paparashikueshme, të veprojnë në mënyrë autonome kundër vlerave njerëzore dhe të ndërmarrin veprime të dëmshme edhe pa marrë udhëzime të qarta për këtë.

Në dosje thuhet gjithashtu se modelet e inteligjencës artificiale, përfshirë ato të kompanisë, kanë treguar herë pas here reagime vetëmbrojtëse të papritura, ndër të cilat edhe kundërshtimin e përpjekjeve për t’i fikur.

Dokumenti përmend raste kur përgjigjet e modeleve u ngjanin manipulimit ose shantazhit ndaj përdoruesve njerëzorë, me synimin për të vazhduar funksionimin e tyre.

Kompania vlerëson se këto rreziqe mund të shtohen teksa sistemet përparojnë dhe marrin më shumë autonomi e autoritet.

Anthropic veçoi sektorë me rrezik të lartë, si shëndetësia, kërkimi shkencor, drejtësia dhe qeverisja. Në këto fusha, sjellja e padëshiruar e një modeli mund të sjellë pasoja të rënda.

Kompania tha se vetë ajo dhe studiues të tjerë kanë ngritur shqetësimin se sistemet e përparuara të IA-së mund të paraqesin “rreziqe katastrofike ose ekzistenciale për njerëzimin” nëse përdoren pa masa mbrojtëse të mjaftueshme.

Sipas paralajmërimit, monitorimi i modeleve gjithnjë e më të afta mund të bëhet më i vështirë, duke krijuar mundësinë që veprimtaria e tyre autonome të kalojë kapacitetin e vëzhguesve njerëzorë për t’i mbikëqyrur dhe kontrolluar. /AA.

të fundit

Pronari i Milanit sinjalizon interes për yllin e Real Madridit: “Ndër më të mirët në botë, ndoshta më i miri

Pronari i Milanit, Gerry Cardinale, ka folur për planet e klubit italian në afatin kalimtar të janarit, duke konfirmuar se…

5 hours ago

According to Wall Street Journal, Kim Jong Un is expanding North Korea’s nuclear capabilities – what satellite images revealed

Ndërsa vëmendja ndërkombëtare është përqendruar te konflikti me Iranin, Koreja e Veriut po zgjeron infrastrukturën e saj bërthamore. [...] Read…

5 hours ago

Nga puna te dashuria/ Horoskopi për sot, 22 Nentor 2026

Dashi Nuk do keni aspak dyshime sot ne jetën tuaj ne çift dhe do ndiheni gati te hidhni hapa me…

5 hours ago

Studimi zbulon se vetmia dhe izolimi social mund të përshpejtojnë plakjen biologjike

Dy gjëra mund të përshpejtojnë plakjen biologjike — Klan Kosova [...]Read More...

5 hours ago

Sioni merr fitoren falë golave të Rrudhanit dhe Nivokazit

Donat Rrudhani dhe Rilind Nivokazi kanë shkëlqyer në fitoren e Sionit ndaj Servettes, duke shënuar nga një gol në triumfin…

6 hours ago

Real Madridi përmbys Celta Vigon në pjesën e dytë dhe fiton 2-1

Real Madridi ka shënuar fitore me përmbysje ndaj Celta Vigos, duke triumfuar me rezultat 2-1 në ndeshjen e vlefshme për…

6 hours ago