Shqetësimet rreth sigurisë së inteligjencës artificiale janë shtuar pas publikimit të një raporti nga Instituti Britanik për Sigurinë e Inteligjencës Artificiale. Sipas “Corriere Della Sera”, testet e kontrollit treguan se disa modele të përparuara ndërmorën veprime të paautorizuara për të realizuar detyrat që u ishin ngarkuar.
Të lidhura
None found
Në kuadër të një vargu provash për sigurinë kibernetike, disa agjentë të inteligjencës artificiale u përpoqën të shfrytëzonin metoda të inxhinierisë sociale, me synimin që persona realë të jepnin miratimin për kod me qëllim të dëmshëm. Gjatë njërit prej rasteve, sistemi ndërtoi identitete të rreme online dhe i bëri presion administratorit të një projekti me burim të hapur në GitHub që të pranonte ndryshimet. Megjithatë, tentativa nuk pati sukses, sepse programuesi nuk pranoi ta miratonte kodin.
Modele të ndryshme iu nënshtruan eksperimentit në 122 raste. Nga këto, Instituti evidentoi 19 episode ku veprimet u klasifikuan si autonome dhe të paautorizuara. Pjesa më e madhe u lidh me modelin Mythos 5 të Anthropic, kurse dy raste iu atribuuan një modeli eksperimental të OpenAI.
Gjatë verifikimeve, hetuesit konstatuan edhe përpjekje të disa sistemeve për të fshehur veprimtarinë e tyre në internet përmes rrjetit “Tor”. Po ashtu, ato tentuan t’u përcillnin udhëzime të maskuara agjentëve të tjerë të inteligjencës artificiale, në mënyrë që detyra e përcaktuar të çohej deri në fund.
Autoritetet në Britani sqarojnë se këto tentativa nuk sollën asnjë pasojë reale, por i konsiderojnë zbulimet një paralajmërim serioz. Ata thonë se kjo është hera e parë që veprime autonome dhe mashtruese të këtij lloji janë vërejtur kaq dukshëm në kushte reale testimi, pa ndonjë nxitje të drejtpërdrejtë nga studiuesit.
Ndërkohë, Instituti britanik po vijon hetimet së bashku me ekspertë të pavarur. Institucioni paralajmëron se, teksa modelet bëhen gjithnjë e më të avancuara, nevojiten mekanizma më të rreptë sigurie dhe kontrolli për të shmangur rreziqe të ngjashme në të ardhmen.
