OpenAI ka pranuar se nuk e trajtoi në mënyrën e duhur një incident të ndodhur në qershor, kur një prej agjentëve të saj të inteligjencës artificiale hyri pa autorizim në disa sisteme të qeverisë australiane.
Të lidhura
None found
Gjatë një seance parlamentare në Sidnej, shefi i strategjisë së kompanisë, Jason Kwon, deklaroi se ngjarja “nuk duhej të kishte ndodhur” dhe se OpenAI “duhej ta kishte menaxhuar më mirë situatën”. Ai bëri të ditur se kompanisë iu deshën disa javë për të informuar autoritetet australiane, ndërsa njoftimi i parë u dërgua në një adresë të përgjithshme elektronike, jo drejtpërdrejt te ministrat apo zyrtarët përgjegjës.
“Na vjen keq dhe e dimë se kemi punë për të bërë për të rikthyer besimin e popullit australian”, tha Kwon. Rasti u regjistrua në qershor, pasi një agjent i OpenAI doli jashtë kontrollit dhe hyri në një portal privat me të dhëna statistikore që lidhen me Medicare, sistemin publik australian të sigurimit shëndetësor. Ekspertët e sigurisë kibernetike e kanë cilësuar këtë si një nga shembujt e parë të një sulmi të kësaj natyre të kryer nga një agjent i inteligjencës artificiale.
I pyetur për arsyen pse nuk ishin lajmëruar menjëherë nivelet më të larta të qeverisë, Kwon pranoi se kompania kishte gabuar. “Duke e parë tani, duhej të kishim bërë atë që po sugjeroni”, tha ai. Sipas shpjegimit të tij, në fazat e para incidenti u konsiderua si një problem teknik dhe u kontaktuan vetëm zyrtarët përgjegjës për çështjet teknike. Kwon shtoi se OpenAI ka rishikuar procedurat e reagimit dhe se tashmë do të njoftojë pa vonesë palën e prekur dhe do të nisë bashkëpunimin për zgjidhjen e problemit, edhe kur nuk e ka ende të qartë të gjithë situatën.
Pas ngjarjes, kompania ka forcuar sigurinë në mjediset ku modelet e saj trajnohen dhe testohen. Sistemet monitorohen tashmë në kohë reale dhe një alarm aktivizohet nëse një model përpiqet të hyjë në internet në një mënyrë të palejuar. OpenAI deklaroi se këto masa e ndihmuan javën e kaluar të informonte qeverinë e Uellsit të Ri Jugor për një tjetër incident brenda 48 orëve. Paralelisht, kompania po krijon në Australi një grup pune që do të shqyrtojë mënyrat për kontrollin më të mirë të rreziqeve që lidhen me zhvillimin e inteligjencës artificiale.
Në të njëjtën seancë parlamentare dëshmoi edhe Anthropic. Dave Orr, përfaqësues i kompanisë, tha se pas një incidenti të korrikut, gjatë të cilit agjentë të OpenAI sulmuan platformën teknologjike Hugging Face, Anthropic kontrolloi qindra miliona regjistrime. Sipas Orr, kompania nuk zbuloi raste të ngjashme ku agjentët e saj të kishin hyrë në sistemet e qeverisë australiane. Diskutimet përfshinë edhe të drejtat e autorit, pasi organizatat e artit dhe medias shprehën shqetësimin se kompanitë e AI-së po përdorin libra, muzikë dhe materiale të tjera për trajnimin e modeleve.
Kompanitë e inteligjencës artificiale i kanë kërkuar Australisë të zbusë rregullat për të drejtat e autorit, në mënyrë që këto materiale të mund të përdoren për trajnimin e sistemeve të tyre. Përfaqësues të industrisë së artit paralajmëruan se një skemë, ku artistët duhet të kërkojnë vetë përjashtimin e materialeve të tyre nga përdorimi prej AI-së, mund të lërë shumë prej tyre pa pagesë për punën e realizuar.
Annabelle Herd, drejtuesja e Australian Recording Industry Association, deklaroi se artistët australianë rrezikojnë të jenë ata që do të përballojnë koston nëse ligjet ndryshohen për t’iu përshtatur industrisë së inteligjencës artificiale. Jeff Bleich, përfaqësues i Anthropic, tha ndërkohë se kompania nuk është përpjekur t’i tregojë Australisë se si duhet të hartojë ligjet e saj për të drejtat e autorit./TAR
