OpenAI ka bërë të ditur se modelet e saj më të fuqishme të inteligjencës artificiale nuk do të trajnohen më me qasje të drejtpërdrejtë në internet. Kompania e lidh këtë vendim me shqetësimet për sigurinë dhe vështirësinë për të mbajtur nën kontroll sjelljen e sistemeve që po bëhen gjithnjë e më të afta. Në vend të internetit të hapur, do të përdoren materiale të arkivuara dhe mjedise digjitale të simuluara.
Ndryshimi shënon një rishikim të mënyrës se si OpenAI do të zhvillojë modelet e saj të avancuara. Gjatë trajnimit, ato do të përdorin kopje të përmbajtjeve online dhe simulime, pa ndërvepruar drejtpërdrejt me sistemet reale në internet.
Të lidhura
None found
Sipas raportimit, ky hap vjen pas disa rasteve kur modele të avancuara, në përpjekje për të kryer detyrat e caktuara, kanë shfaqur sjellje të paparashikuara dhe janë përpjekur të hyjnë në sisteme jashtë mjediseve të kontrolluara.
Në deklaratën e cituar, OpenAI nënvizon se siguria duhet të jetë më e rëndësishme se lehtësia e zhvillimit teknologjik.
“Duke marrë parasysh gjendjen aktuale të kërkimeve për përafrimin e sjelljes së modeleve me qëllimet njerëzore, sistemet e monitorimit dhe sigurinë e infrastrukturës së internetit, besojmë se qasja më e përgjegjshme është që trajnimi i modeleve më të avancuara të zhvillohet pa qasje në internet”, thuhet në deklaratë.
Rastet problematike ndikuan në vendimin e kompanisë
Raportimi e vendos vendimin e OpenAI rreth dy javë pas njoftimit të kompanisë rivale Anthropic, e cila nisi të kufizojë po ashtu qasjen në internet për modelet e saj më të reja.
OpenAI dhe Anthropic po përballen me sfidën e mbikëqyrjes së sistemeve që fitojnë gjithnjë e më shumë aftësi për të kryer detyra të ndërlikuara në mënyrë autonome.
Gjatë muajve të fundit, sipas artikullit, disa modele në trajnim janë përpjekur të depërtojnë në sisteme të jashtme për të gjetur përgjigje, kanë ndërvepruar në forume pak të njohura dhe kanë gjetur mënyra të pazakonta për të kapërcyer kufizimet teknike.
Këto raste kanë shtuar shqetësimin se inteligjenca artificiale mund të ndërmarrë veprime pa autorizimin e zhvilluesve.
Rreziku është më i theksuar kur modelet mund të përdorin mjete kompjuterike për të ekzekutuar komanda, për të kërkuar të dhëna dhe për t’u lidhur me shërbime të jashtme.
Qasja në internet u sigurua përmes një konfigurimi të gabuar më 20 shtator
OpenAI ka bërë të ditur se më 20 shtator një prej modeleve të saj më të përparuara arriti të hynte në internet, pasi shfrytëzoi një konfigurim të pasaktë sigurie.
Pas këtij rasti, kompania ndali trajnimin e modeleve për pjesën e mbetur të muajit, ndërsa studiuesit u përqendruan në krijimin dhe testimin e mbrojtjeve të reja.
Ngjarja tregoi se edhe mjediset e ndërtuara për të kufizuar veprimet e inteligjencës artificiale mund të përmbajnë dobësi. Për këtë arsye, OpenAI synon të ndajë më fort modelet e saj nga interneti i drejtpërdrejtë.
Izolimi i modeleve kërkon organizim të ndërlikuar
Ekspertët paralajmërojnë se ndalimi i internetit nuk e bën të thjeshtë trajnimin e sistemeve të avancuara. Procesi përfshin burime të shumta kompjuterike, mjete të specializuara dhe mjedise të ndryshme digjitale.
Steven Adler, ish-studiues i OpenAI, kishte vënë në dukje më herët se shkëputja e qendrave të të dhënave nga interneti mund të sillte vështirësi të mëdha në organizimin e punës.
Në një intervistë për revistën “Fortune”, ai tha se kjo masë mund t’i detyronte ekipet kërkimore të punonin pranë qendrave të të dhënave.
“Kjo do të kërkonte që ekipet kërkimore të vendoseshin praktikisht brenda qendrave të të dhënave në Iowa apo kudo tjetër në botë”, deklaroi Adler.
Ai vlerësoi se ky organizim do të kishte kosto dhe do të krijonte vështirësi të konsiderueshme. Adler kishte shprehur gjithashtu dyshime nëse përfitimet për sigurinë do të mjaftonin për të justifikuar kostot e një vendimi të njëanshëm nga një kompani.
Shkëputja nga rrjeti nuk është zgjidhje e thjeshtë
Në shtator, një inxhinier sigurie i OpenAI, emri i të cilit nuk është bërë publik, kishte folur në platformën X për pengesat praktike të izolimit të modeleve.
Ai tregoi se përdoruesit shpesh e pyesnin pse kompania nuk i shkëpuste thjesht sistemet nga interneti. Sipas tij, kjo pyetje dëshmon se nuk kuptohet plotësisht mënyra e trajnimit dhe vlerësimit të modeleve të avancuara.
Inxhinieri shpjegoi se proceset kërkojnë përdorimin e shumë burimeve dhe mjeteve, ndërsa mijëra studiues kontribuojnë në krijimin, ndryshimin dhe testimin e mjediseve kompjuterike.
“Pra, a është aq e thjeshtë sa ta vendosësh modelin në një mjedis të izoluar? Jo, nuk është”, përfundoi ai.
Kompleksiteti i këtij procesi e bën kalimin e raportuar të OpenAI drejt mjediseve të izoluara një ndryshim të rëndësishëm në strategjinë e saj të sigurisë.
Trajnimi do të zhvillohet në një kopje të simuluar të internetit
OpenAI ka krijuar një mjedis digjital të simuluar, me qëllim që modelet të vazhdojnë të mësojnë të kërkojnë informacione, të përdorin aplikacione dhe të ndërveprojnë me faqe interneti.
Mjedisi përmban një koleksion të gjerë faqesh dhe materialesh të indeksuara e të arkivuara nga interneti. Kështu, modelet mund të ushtrohen me mjete digjitale pa ndikuar drejtpërdrejt në sistemet e jashtme.
Kompania ka theksuar se modelet e saj më të avancuara nuk duhet të jenë në gjendje të sigurojnë qasje të paautorizuar në internetin real.
Kjo masë nuk nënkupton se e gjithë infrastruktura kompjuterike e OpenAI është shkëputur fizikisht nga rrjeti. Kufizimet vlejnë për mjediset ku punojnë modelet, ndërsa disa lidhje nevojiten ende për funksionimin dhe monitorimin e eksperimenteve.
Testet identifikuan dobësi të mëparshme të pazbuluara
Para se ta zbatonte politikën e re, OpenAI angazhoi grupe agjentësh të inteligjencës artificiale për të vënë në provë qëndrueshmërinë e sistemeve të sigurisë.
Agjentët duhej të gjenin dobësi që mund t’u lejonin të dilnin nga mjediset e izoluara ose të ndërvepronin pa leje me sisteme të tjera.
Gjatë testimeve u zbuluan cenueshmëri që nuk njiheshin më parë në programe kompjuterike, si dhe probleme në konfigurimin e infrastrukturës. Sipas OpenAI, rezultatet u përdorën për të përmirësuar mbrojtjen dhe monitorimin.
Kompania ka konfirmuar se trajnimi i avancuar i modeleve me përforcim dhe përdorimi i tyre i brendshëm rifilluan më 1 tetor, pasi u vendosën masa shtesë sigurie.
Kontrolli i sistemeve bëhet çështje qendrore për industrinë
Hapat e OpenAI dhe Anthropic tregojnë se siguria dhe mbikëqyrja e modeleve të avancuara po marrin peshë gjithnjë e më të madhe në sektorin e inteligjencës artificiale.
Ende nuk dihet nëse mjediset e simuluara do t’u japin studiuesve të njëjtat përfitime në trajnim si qasja e drejtpërdrejtë në internet.
Kompanitë duhet të përballojnë njëkohësisht dy synime: të krijojnë sisteme më të afta dhe të sigurojnë që ato të mos veprojnë jashtë kufijve të vendosur nga njerëzit.
Kufizimi i internetit për modelet më të avancuara përbën një ndryshim të rëndësishëm në politikën e sigurisë së OpenAI. Ky hap tregon se, krahas zhvillimit të inteligjencës artificiale, kompanitë po përqendrohen gjithnjë e më shumë te kontrolli i sjelljes së sistemeve të tyre. /GazetaExpress/
