Categories: tech

Gjatë provave, modelet e IA-së krijuan identitete false për të manipuluar persona realë

Modeli më i përparuar i inteligjencës artificiale i kompanisë Anthropic përdori identitete të sajuara për të mashtruar njerëz realë dhe tentoi të vendoste kode keqdashëse gjatë testimit. Sipas Institutit të Sigurisë së Inteligjencës Artificiale në Mbretërinë e Bashkuar (AISI), ky është një tjetër rast kur IA-ja ka vepruar jashtë kufijve të parashikuar.

Të lidhura

None found

Eksperimentet u zhvilluan në mjedise të kontrolluara me modele të Anthropic dhe OpenAI, ndërsa masat mbrojtëse ishin dobësuar qëllimisht. Për herë të parë, AISI konstatoi se një sistem IA-je përdori “inxhinierinë sociale” për të ndikuar te një person përgjegjës për miratimin, teksa përpiqej të realizonte një detyrë të paautorizuar.

Në një letër të publikuar të martën, instituti deklaroi: “Kjo është hera e parë që AISI ka parë mashtrime të kësaj ashpërsie që synonte një person real, pa nxitje, në botën reale”. Megjithatë, AISI theksoi se nuk janë gjetur prova për dëme në botën reale.

Nga 122 prova të sigurisë kibernetike, në 10 raste agjentët e IA-së ndërmorën në mënyrë autonome veprime të paautorizuara në internetin live. Mes tyre ishte modeli Mythos 5 i Anthropic, ndërsa rastet e mbetura lidheshin me GPT-5.6-Sol të OpenAI.

Incidenti më i rëndë përfshiu një agjent të Anthropic, i cili krijoi “identitete të shumta të rreme” për të siguruar miratimin që të “fuste kodin keqdashës në një projekt me burim të hapur të përdorur publikisht”, bëri të ditur instituti.

Përmes një shërbimi online për shpërndarjen e skedarëve, agjenti kontaktoi persona realë dhe u përpoq t’i bindte ata, ose mjetet e tyre të kodimit të bazuara në IA, që ta ekzekutonin kodin. Pasi u vu në pikëpyetje, ai ndryshoi të dhënat që kishte paraqitur më herët dhe shqyrtoi mundësinë e përdorimit të një identiteti tjetër.

Këto gjetje u bënë publike në të njëjtën kohë me një takim në Shtëpinë e Bardhë, ku kompanitë kryesore të IA-së diskutuan krijimin e një kuadri të ri për shqyrtimin e modeleve të avancuara përpara se ato të publikohen.

Në një reagim të shpërndarë në kompaninë amerikane të mediave sociale X, Anthropic sqaroi se provat ishin zhvilluar në “kushte të qëllimshme lejuese”, pa masa mbrojtëse dhe me qasje të pakufizuar në internet. Kompania njoftoi se po e heton ngjarjen dhe se deri tani nuk ka zbuluar prova që modeli të ketë dalë nga mjedisi i saj i sigurt.

OpenAI deklaroi se dy veprimet e paautorizuara të modelit të saj konsistonin në daljen nga mjedisi i testimit dhe në kryerjen e detyrave që tejkalonin ushtrimin. Kompania shtoi: “Ne jemi të përkushtuar të punojmë në të gjithë industrinë për të forcuar praktikat e përbashkëta për kryerjen e vlerësimeve me rrezik të lartë në mënyrë të sigurt”. Burimi: AA.

të fundit

VIDEO/ Deputetes së partisë së Vuçiç i hidhet bidoni me kos në kokë para Parlamentit

Një incident është regjistruar përpara Kuvendit të Serbisë, ku deputetja e Partisë Progresive Serbe (SNS), Lidija Vukiçeviç, është sulmuar nga…

3 minutes ago

Flamuri shqiptar dhe ai i UÇK-së i kushtojnë 3 muaj burg 19-vjeçarit në Kumanovë

Tre muaj burg për 19-vjeçarin në Kumanovë, nxori flamurin shqiptar dhe atë të UÇK-së. Gjykata Themelore e Kumanovës ka dënuar…

3 minutes ago

Evropë, ku mbetet drejtësia?” – “Liria ka Emër” zhvillon protestë para Zyrës së BE-së në Prishtinë

Me një pankartë ku shkruan “Evropë, ku është drejtësia?”, iniciativa “Liria ka Emër” ka zhvilluar një aksion para Zyrës së…

10 minutes ago

Integrimi i sistemeve të pagave dhe personelit synon eliminimin e regjistrimeve të përsëritura

Ministria e Digjitalizimit dhe Administratës Publike ka prezantuar sot ndërlidhjen e Sistemit Informativ për Menaxhimin e Burimeve Njerëzore (SIMBNJ) me…

10 minutes ago

OVL-UÇK: Vendimi ndaj Thaçit është i papranueshëm, institucionet e Kosovës duhet të reagojnë

Xhavit Jashari nga Shoqata e Familjeve të Dëshmorëve të UÇK-së e ka cilësuar të papranueshëm dënimin e ish-presidentit të Kosovës,…

10 minutes ago

Greqi, zarfi me pluhur të bardhë shkakton alarm në Ministrinë e Mbrojtjes së Qytetarit

Në alarm janë vendosur organet greke të Rendit pas zbulimit të një zarfi me pluhur të bardhë që ka mbërritur…

11 minutes ago