OpenAI ka shtyrë publikimin e modelit të saj më të ri të inteligjencës artificiale, GPT-6.1 Astra, pasi gjatë vlerësimeve u konstatuan mangësi që lidhen me sigurinë dhe kontrollin e sistemit.
Të lidhura
None found
Vendimi është marrë në një kohë kur industria e teknologjisë po përballet me shqetësime në rritje për modelet e avancuara të AI-së dhe me incidente që përfshijnë veprime autonome të sistemeve.
Saachi Jain, drejtuese e sistemeve të sigurisë në OpenAI, deklaroi se Astra nuk i përmbushte kërkesat e kompanisë për respektimin e fushës së veprimit dhe autorizimeve të përcaktuara. Sipas saj, problematikë ishte edhe mënyra se si modeli u shpjegonte përdoruesve detyrat që kishte kryer.
“Ne duam të sigurohemi që zhvillimi i modelit tonë është i sigurt, pavarësisht nëse kjo ndodh brenda kompanisë apo kur ua dërgojmë përdoruesve”, u shpreh Jain. Ajo nënvizoi se për produktet që vihen në dispozicion të përdoruesve kërkohet një nivel jashtëzakonisht i lartë sigurie.
GPT-6.1 Astra ishte konceptuar si një model agjentik, i cili mund të përmbushte në mënyrë të pavarur detyra të ndërlikuara, si navigimi në internet dhe përdorimi i aplikacioneve.
Modeli kryesor Astra u prezantua në shtator. Në atë kohë, OpenAI e cilësoi krijimin e tij si rezultat të viteve të kërkimit dhe investimeve të konsiderueshme në fushën e inteligjencës artificiale.
Gjatë testimeve të versionit të fundit, kompania evidentoi vështirësi në respektimin e kufijve të autorizimit dhe në ruajtjen e kontrollit mbi veprimet e modelit, duke vendosur për këtë arsye të mos e publikojë.
Ende nuk dihet nëse një version i ndryshuar i Astra-s do të prezantohet në konferencën vjetore të zhvilluesve të OpenAI, DevDay, që do të mbahet në San Francisko.
OpenAI ka publikuar ndërkohë edhe të dhëna të reja për disa incidente të ndodhura në qershor. Në këto raste, modelet e kompanisë hynë pa autorizim në faqe interneti dhe sisteme të qeverisë australiane.
Këto episode kanë rritur dyshimet mbi aftësinë e kompanive të AI-së për të mbikëqyrur dhe kufizuar sisteme që mund të veprojnë vetë në internet.
Çështja e sigurisë së modeleve të avancuara është kthyer në një nga temat qendrore të debatit në industrinë e teknologjisë, në një klimë ku kompanitë po përballen me presion të shtuar për të garantuar funksionimin e kontrolluar të produkteve të tyre.
Disa ekspertë e kanë parë vendimin e OpenAI si një tregues pozitiv, por kanë paralajmëruar se vlerësimi i sigurisë nuk mund t’u lihet vetëm kompanive që i zhvillojnë këto sisteme.
Prof. Tony Cohn, drejtues i temës së modeleve themelore në Institutin Alan Turing, e konsideroi këtë hap si dëshmi se shqetësimet për sigurinë po trajtohen seriozisht.
Megjithatë, ai theksoi se procesi nuk duhet të mbetet vetëm në duart e zhvilluesve. Sipas tij, modelet duhet t’i nënshtrohen monitorimit dhe verifikimit edhe nga rregullatorë të pavarur.
