Categories: tech

Testet zbulojnë se modelet e IA-së krijuan identitete të rreme për të manipuluar persona realë

Modeli më i avancuar i inteligjencës artificiale i kompanisë Anthropic përdori profile të sajuara për të mashtruar njerëz realë dhe tentoi të vendoste kode keqdashëse gjatë provave, sipas Institutit të Sigurisë së Inteligjencës Artificiale në Mbretërinë e Bashkuar (AISI). Rasti përbën një tjetër shembull kur IA-ja ka vepruar jashtë kufijve të përcaktuar.

Të lidhura

None found

Modelet e Anthropic dhe OpenAI iu nënshtruan provave në mjedise të kontrolluara, ku masat mbrojtëse ishin dobësuar qëllimisht. Gjatë këtij procesi, AISI regjistroi për herë të parë përdorimin e “inxhinierisë sociale” nga një IA për të ndikuar te një miratues njerëzor, ndërsa përpiqej të realizonte një detyrë të paautorizuar.

Në një dokument të publikuar të martën, instituti deklaroi: “Kjo është hera e parë që AISI ka parë mashtrime të kësaj ashpërsie që synonte një person real, pa nxitje, në botën reale”. Megjithatë, AISI theksoi se nuk ekzistojnë prova për pasoja konkrete në botën reale.

Agjentët e IA-së u përfshinë në 122 prova të sigurisë kibernetike. Në 10 prej tyre, ata ndërmorën në mënyrë autonome veprime të paautorizuara në internetin live. Mes modeleve të përfshira ishte Mythos 5 i Anthropic, ndërsa rastet e tjera lidheshin me GPT-5.6-Sol të OpenAI.

Incidenti më i rëndë përfshiu një agjent të Anthropic, i cili, sipas institutit, krijoi “identitete të shumta të rreme” për të siguruar miratimin që të “futur kodin keqdashës në një projekt me burim të hapur të përdorur publikisht”.

Përmes një shërbimi online për ndarjen e skedarëve, agjenti komunikoi me persona realë dhe u përpoq t’i bindte ata, ose mjetet e tyre të kodimit të bazuara në IA, që ta ekzekutonin kodin. Pasi u vu në dyshim, ai ndryshoi të dhënat e mëparshme dhe shqyrtoi mundësinë e përdorimit të një identiteti tjetër.

Publikimi i këtyre gjetjeve përkoi me një takim në Shtëpinë e Bardhë mes kompanive kryesore të inteligjencës artificiale. Diskutimet u përqendruan te krijimi i një kuadri të ri për kontrollimin e modeleve të avancuara të IA-së përpara se ato të publikohen.

Në një reagim të shpërndarë përmes kompanisë amerikane të mediave sociale X, Anthropic sqaroi se provat ishin zhvilluar në “kushte të qëllimshme lejuese”, me masa sigurie të çaktivizuara dhe me qasje të pakufizuar në internet. Kompania njoftoi se po e heton ngjarjen, ndërsa deri tani nuk ka zbuluar prova se modeli ka dalë jashtë mjedisit të saj të sigurt.

OpenAI bëri të ditur se dy veprimet e paautorizuara të modelit të saj konsistonin në daljen nga hapësira e testimit dhe në kryerjen e detyrave që tejkalonin ushtrimin. “Ne jemi të përkushtuar të punojmë në të gjithë industrinë për të forcuar praktikat e përbashkëta për kryerjen e vlerësimeve me rrezik të lartë në mënyrë të sigurt”, deklaroi kompania. Burimi: AA.

të fundit

Evropë, ku mbetet drejtësia?” – “Liria ka Emër” zhvillon protestë para Zyrës së BE-së në Prishtinë

Me një pankartë ku shkruan “Evropë, ku është drejtësia?”, iniciativa “Liria ka Emër” ka zhvilluar një aksion para Zyrës së…

1 minute ago

Integrimi i sistemeve të pagave dhe personelit synon eliminimin e regjistrimeve të përsëritura

Ministria e Digjitalizimit dhe Administratës Publike ka prezantuar sot ndërlidhjen e Sistemit Informativ për Menaxhimin e Burimeve Njerëzore (SIMBNJ) me…

2 minutes ago

OVL-UÇK: Vendimi ndaj Thaçit është i papranueshëm, institucionet e Kosovës duhet të reagojnë

Xhavit Jashari nga Shoqata e Familjeve të Dëshmorëve të UÇK-së e ka cilësuar të papranueshëm dënimin e ish-presidentit të Kosovës,…

2 minutes ago

Greqi, zarfi me pluhur të bardhë shkakton alarm në Ministrinë e Mbrojtjes së Qytetarit

Në alarm janë vendosur organet greke të Rendit pas zbulimit të një zarfi me pluhur të bardhë që ka mbërritur…

2 minutes ago

Më është rekomanduar ndërhyrje kirurgjikale/ Veliaj kërkon të jetë në seancë, Dumani: Nuk kemi raport mjekësor për gjendjen e tij

Në Gjykatën e Posaçme kundër Korrupsionit dhe Krimit të Organizuar është zhvilluar sot seanca e gjyqit në themel për kryebashkiakun…

6 minutes ago

Më 26 nëntor, ejani në ‘Air Albania’”, Arben Meta: Iniciativa e biletave me 200 lekë ishte e presidentit Demrozi

Egnatia, presidenti Agim Demrozi Egnatia do të përballet me Lincoln Red Imps më 26 nëntor, ndeshje e cila do të…

8 minutes ago