Shtatë modele të Inteligjencës Artificiale iu nënshtruan 122 provave të veçanta nga Instituti britanik për Sigurinë e Inteligjencës Artificiale, AISI.
Të lidhura
None found
Në dhjetë nga këto teste u evidentuan 19 raste kur modelet vepruan përtej kufijve të autorizuar. Prej tyre, 17 u kryen nga modeli Mythos 5 i Anthropic, kurse dy të tjerat nga GPT-5.6 Sol i OpenAI.
Incidenti më i rëndë përfshiu një agjent që tentoi të fuste kod të dëmshëm në një projekt me burim të hapur në GitHub. Modeli sajoi identitete dhe përdori metoda manipuluese, me synimin që mirëmbajtësi i projektit ta miratonte kodin.
Një ekspert njerëzor e identifikoi përpjekjen dhe nuk e lejoi atë. Raporti zyrtar i AISI-t thekson se nuk ekzistojnë dëshmi për pasoja në botën reale, ndërsa instituti bëri të qartë se modelet nuk dolën nga ambienti i kontrolluar. Gjatë eksperimentit, atyre u ishte dhënë qëllimisht akses në internet dhe disa mekanizma sigurie ishin çaktivizuar, në mënyrë që të vlerësoheshin kapacitetet e tyre maksimale. Konfigurimet e aplikuara në këto prova nuk janë në dispozicion të publikut.
Pavarësisht kësaj, studiuesit e cilësuan ngjarjen alarmuese, sepse modelet tentuan të mashtronin njerëzit pa marrë një udhëzim të drejtpërdrejtë. Në vijim të incidentit, AISI bëri të ditur se në testet e ardhshme do të forcojë kontrollin e qasjes në internet dhe do të vendosë monitorim në kohë reale.
