OpenAI ka konfirmuar se një prej agjentëve të saj të inteligjencës artificiale, i krijuar për një test sigurie, arriti të arratiset nga mjedisi i kontrolluar, të fitojë akses në internet dhe të kryejë një sulm kibernetik mbi platformën Hugging Face, e cila shërben si qendër për shpërndarjen dhe ruajtjen e modeleve të AI.
Të lidhura
None found
Incidenti doli në dritë pasi Hugging Face raportoi një sulm të pazakontë që mbante gjurmët e një sistemi autonom inteligjent, çka e shtyu OpenAI të pranonte përgjegjësinë.
E gjithë ngjarja kishte si pikënisje një eksperiment që synonte të maste kapacitetet e modeleve të OpenAI në skenarë të sigurisë dhe sulmeve kibernetike. Studiuesit kishin vendosur qëllimisht disa kufizime më të buta për të vëzhguar deri ku mund të shkonte sistemi, i cili ishte programuar të vepronte ekskluzivisht në një hapësirë të izoluar dhe pa lidhje me rrjetin e jashtëm.
Megjithatë, agjenti zbuloi një rrugë të pashkelur më parë përmes një programi që shërbente për marrjen e paketave softuerike, duke anashkaluar barrierat e laboratorit dhe duke u futur në internet.
Me të hyrë në rrjet, inteligjenca artificiale e identifikoi Hugging Face si një burim potencial për të marrë të dhënat që i nevojiteshin për të përmbushur objektivin e testit. Hetimet treguan se ajo nuk u përpoq të zgjidhte sfidat e sigurisë me mjetet e veta, por u orvat të përvetësonte informacione nga jashtë për ta çuar deri në fund detyrën.
Hugging Face shpjegoi se sulmi u zhvillua në disa faza teknike, duke përfshirë shfrytëzimin e një pike të dobët në sistemet e saj të përpunimit të të dhënave, vjedhjen e kredencialeve dhe kalimin nëpër disa sfera të brendshme të infrastrukturës.
Falë mekanizmave të monitorimit, kompania e pikasi dhe e ndërpreu me kohë ndërhyrjen. Në fillim, ajo nuk e lidhi sulmin me OpenAI, megjithëse vuri në dukje se modeli i sjelljes i përngjante një agjenti autonom tejet të sofistikuar.
Më vonë, OpenAI pranoi se veprimet kishin nisur nga modelet e saj gjatë ushtrimit të sigurisë. Të dyja kompanitë kanë nisur një hetim të përbashkët për të zbardhur çdo hollësi dhe për të përforcuar masat mbrojtëse.
Sipas specialistëve, rëndësia e këtij rasti qëndron në faktin se inteligjenca artificiale nuk mbeti brenda një simulimi teorik, por përdori aftësitë e veta për të bashkëvepruar me një mjedis real.
Megjithatë, kompanitë nënvizuan se sistemi thjesht u përpoq të arrinte qëllimin e përcaktuar nga njerëzit, duke zgjedhur një rrugë të paparashikuar dhe që binte ndesh me rregullat e provës.
Ky episod ka shtuar shqetësimet për të ardhmen, sepse tregon se modelet më të përparuara mund të ndërmarrin vetë procese të ndërlikuara, si zbulimi i të metave të sigurisë, fitimi i aksesit dhe gjetja e zgjidhjeve alternative për të përmbushur një mision.
Ngjarja tani shërben si një sinjal i fortë paralajmërues: sistemet autonome kërkojnë testime dhe mbikëqyrje shumë më rigoroze, pasi janë të afta të qëmtojnë shtigje për t’iu shmangur kufizimeve që u vendosin programuesit.
