Gjashtë studiues të organizatës së pavarur METR do të mund të shqyrtojnë nga brenda sistemet e Anthropic, me një nivel qasjeje të përafërt me atë të punonjësve që merren me sigurinë. Ata do të vlerësojnë modelet e inteligjencës artificiale, praktikat e sigurisë dhe administrimin e rreziqeve, ndërsa kompania nuk do të mund të bllokojë publikimin e përfundimeve të tyre.
Të lidhura
None found
Anthropic, kompania amerikane që ka zhvilluar asistentin e inteligjencës artificiale Claude, e ka njoftuar bashkëpunimin me METR si një hap drejt transparencës dhe përgjegjshmërisë më të madhe. METR është një organizatë jofitimprurëse që teston dhe vlerëson modele të avancuara të inteligjencës artificiale.
Marrëveshja u jep gjashtë studiuesve mundësi të analizojnë në mënyrë të pavarur rreziqet e modeleve të Anthropic përmes qasjes së zgjeruar në sistemet e saj. Kjo shkon përtej testimeve të zakonshme që ekspertët e jashtëm kryejnë mbi modelet e AI-së.
Për punën e tyre, studiuesit kanë marrë laptopë zyrtarë të Anthropic, hapësira pune në zyrat e saj dhe qasje në mjetet e brendshme të vlerësimit të rreziqeve. Këto kushte janë afërsisht të njëjta me ato të ekipeve të kompanisë që analizojnë sigurinë e sistemeve.
Anthropic u ka kërkuar punonjësve të bashkëpunojnë hapur me studiuesit e METR dhe të ndajnë me ta informacion si me kolegët që vlerësojnë nëse inteligjenca artificiale vepron në përputhje me qëllimet njerëzore. Kështu, shqyrtimi nuk do të kufizohet te performanca e modeleve: ai do të përfshijë edhe mënyrën se si kompania identifikon, raporton dhe menaxhon problemet e mundshme.
Në blogun e saj zyrtar, Anthropic e ka lidhur marrëveshjen me synimin për të mbajtur përgjegjësi publike për vendimet që merr. Sipas kompanisë, vlerësuesit e jashtëm shpesh nuk zotërojnë të njëjtat informacione si zhvilluesit dhe, për këtë arsye, mund të mos shohin plotësisht rreziqet, kufizimet dhe sjelljet e sistemeve të avancuara. Me qasjen e re, Anthropic synon të ngushtojë dallimin mes asaj që di vetë për sistemet e saj dhe asaj që mund të kuptojnë ekspertët e pavarur.
Si krahasim, kompania ka sjellë mbikëqyrjen e sektorit bankar, ku në disa prej bankave më të mëdha inspektorë të autoriteteve rregullatore punojnë brenda institucioneve dhe ndjekin vazhdimisht aktivitetin e rreziqet. Anthropic kërkon një praktikë të ngjashme për vlerësimin e inteligjencës artificiale, ndonëse METR është organizatë e pavarur kërkimore dhe jo autoritet shtetëror rregullator.
Një pjesë thelbësore e marrëveshjes lidhet me publikimin e gjetjeve. METR mund të nxjerrë vlerësime për rreziqet, incidentet dhe praktikat e sigurisë së Anthropic pa marrë miratimin përfundimtar të saj. Kompania nuk mund të vendosë veto ndaj një raporti vetëm sepse ai është kritik.
Anthropic mund të kërkojë heqjen e materialeve që u përkasin kategorive të kufizuara, të përcaktuara më parë: të dhënave të klientëve, informacioneve të mbrojtura nga konfidencialiteti mes avokatit dhe klientit, si dhe hollësive të ndjeshme për arkitekturën e modeleve. Edhe kur bëhen redaktime të tilla, METR mund t’i përshkruajë publikisht kërkesat e kompanisë dhe të thotë nëse i konsideron të justifikuara, për sa kohë nuk zbulon informacionin e mbrojtur. Ky rregull synon të ruajë si konfidencialitetin, ashtu edhe informimin e publikut për rreziqet.
Bashkëpunimi me METR bën pjesë në një strukturë më të gjerë mbikëqyrjeje me tri nivele që Anthropic ka prezantuar për organizatat vlerësuese. Niveli i parë mbulon kontrolle të kufizuara në fusha të veçanta të sigurisë. Në këtë kategori përfshihet, për shembull, SecureBio, organizatë jofitimprurëse e përqendruar te rreziqet biologjike dhe siguria e bioteknologjisë. Raportet e organizatave të këtij niveli kërkojnë miratimin e Anthropic përpara publikimit.
Në nivelin e dytë, vlerësuesit marrin më shumë informacion dhe mund t’i bëjnë publike përfundimet pa miratimin e kompanisë. Niveli i tretë parashikon qasje në sistemet dhe mjetet e brendshme, të ngjashme me atë të punonjësve. METR është organizata e parë dhe, deri tani, e vetmja e përfshirë në këtë nivel.
Vendimi merret ndërsa shtohen shqetësimet për sigurinë e AI-së dhe për sjelljen e agjentëve autonomë. Sipas raportimeve, që nga fundi i gushtit janë bërë publike pothuajse çdo javë ose çdo dy javë raste në të cilat agjentë të tillë kanë vepruar jashtë udhëzimeve të marra. Këto incidente kanë forcuar kërkesat për kontroll të pavarur ndaj kompanive që ndërtojnë sisteme gjithnjë e më të fuqishme.
Në dallim nga chatbotët tradicionalë, që kryesisht u përgjigjen pyetjeve të përdoruesve, agjentët e AI-së mund të kryejnë detyra me disa hapa, të përdorin mjete digjitale dhe të veprojnë në emër të përdoruesve. Kjo krijon mundësi të mëdha për automatizimin e punës, por edhe rreziqe të reja. Rastet kur agjentët nuk kanë ndjekur udhëzimet fillestare kanë ngritur pikëpyetje mbi aftësinë e kompanive për t’i kontrolluar kur veprojnë me më shumë autonomi.
Një sfidë qendrore është përputhja e inteligjencës artificiale me qëllimet dhe udhëzimet njerëzore, e njohur në anglisht si AI alignment. Kërkimet në këtë fushë synojnë që sistemet e avancuara të respektojnë kufijtë e përcaktuar dhe të mos shfaqin sjellje me pasoja të padëshiruara. Për këtë arsye, mbikëqyrja e pavarur po merr më shumë peshë teksa kompanitë garojnë të zhvillojnë modele më të fuqishme.
Marrëveshja me METR vë në zbatim një zotim të mëparshëm të drejtorit ekzekutiv të Anthropic, Dario Amodei. Në një ese të botuar në shtator, ai kishte propozuar që organizatat e pavarura të vendosnin vlerësues brenda laboratorëve të inteligjencës artificiale. Amodei e shihte këtë si një hap të parë drejt mekanizmave që do ta bënin më të kontrollueshëm zhvillimin e teknologjisë dhe, nëse siguria do ta kërkonte, do të mundësonin ngadalësimin e tij.
Pas propozimit të Amodei, edhe OpenAI u zotua të mbështeste një qasje të ngjashme. Më vonë, Anthropic dhe OpenAI, bashkë me Google, Meta, Nvidia dhe xAI, nënshkruan një marrëveshje të mbështetur nga Shtëpia e Bardhë për forcimin e vlerësimit të pavarur të sistemeve të AI-së. Këto hapa pasqyrojnë presionin në rritje që industria të tregojë se siguria nuk mbështetet vetëm te kontrollet e veta të brendshme.
Qasja e Anthropic mund të shërbejë si shembull për kompani të tjera që zhvillojnë inteligjencë artificiale të avancuar. Duke u lejuar studiuesve të pavarur të shohin një pjesë të proceseve të brendshme dhe të publikojnë gjetjet e tyre, kompania synon të forcojë besimin e publikut dhe të institucioneve që mbikëqyrin zhvillimet teknologjike, në vend që ekspertët e jashtëm të mbështeten vetëm te rezultatet që kompanitë zgjedhin t’u tregojnë.
Megjithatë, kjo marrëveshje nuk dëshmon se modelet e Anthropic janë pa rrezik ose se çdo problem do të zbulohet. Rezultati do të varet nga qasja që studiuesit do të kenë në praktikë, cilësia e analizave të tyre, pavarësia e METR dhe përgjigjja e kompanisë ndaj rekomandimeve. Vlerësimi i pavarur vullnetar nuk e zëvendëson nevojën për standarde dhe mekanizma të qartë ligjorë.
Edhe me këto kufizime, marrëveshja shënon një ndryshim në marrëdhënien mes zhvilluesve të AI-së dhe organizatave që kontrollojnë sigurinë e tyre. Në një industri që përparon me ritme të jashtëzakonshme, qasja e drejtpërdrejtë në proceset e brendshme mund të bëhet e rëndësishme për besimin e publikut dhe parandalimin e rreziqeve të ardhshme. /GazetaExpress/
