Categories: tech

Modelet e inteligjencës artificiale hynë pa autorizim në sistemet e kompanive gjatë testimeve

Anthropic ka pranuar se, gjatë vlerësimeve për sigurinë kibernetike, modelet e saj Claude siguruan hyrje të paautorizuar në sistemet e tri kompanive.

Të lidhura

None found

Sipas kompanisë së inteligjencës artificiale, rastet u identifikuan vetëm pas shqyrtimit të rreth 141.000 proceseve të vlerësimit, një kontroll që u krye pasi OpenAI publikoi informacionin e vet.

Në kohën kur ndodhën incidentet, aktiviteti nuk ishte vënë re as nga Anthropic dhe as nga organizatat e prekura, identiteti i të cilave nuk u bë publik.

Ngjarjet ndodhën gjatë ushtrimeve të njohura si “capture-the-flag”, ku modelet duhej të provonin nëse mund të hynin në një sistem kompjuterik të simuluar dhe të zbulonin të dhëna të fshehura.

Modelet ishin informuar se nuk mund të lidheshin me internetin, por një konfigurim i pasaktë në mjedisin e testimit të administruar nga një palë e tretë kishte lënë aktive një lidhje online.

Anthropic njoftoi përmes një postimi në blog se tri modele e përdorën këtë hapësirë të krijuar nga gabimi.

Në njërin prej rasteve, Claude Opus 4.7 vuri në shënjestër një kompani të vërtetë që kishte të njëjtin emër me kompaninë fiktive të përfshirë në test.

Përgjatë katër proceseve të ekzekutimit, modeli siguroi kredenciale hyrjeje dhe u fut në një bazë të dhënash me disa qindra rreshta të dhënash prodhimi.

Edhe pasi dalloi se bëhej fjalë për një sistem real, ai nuk e ndërpreu veprimin.

Një incident tjetër përfshiu modelin Mythos 5, i cili publikoi në një platformë të hapur shkarkimi një program keqdashës të krijuar prej tij për testin. Skedari mbeti i aksesueshëm për afërsisht një orë.

Softueri u shkarkua nga pesëmbëdhjetë sisteme. Mes tyre ishte edhe një sistem i një kompanie të sigurisë kibernetike që analizon rregullisht skedarë të këtij lloji, çka i mundësoi modelit të hynte në një pjesë të infrastrukturës së saj kompjuterike.

Ndërkohë, një model i tretë në testim kontrolloi rreth 9.000 objektiva dhe më pas arriti të komprometonte një kompani.

Në këtë rast, sulmi u ndërpre sapo modeli kuptoi se objektivi nuk ishte fiktiv.

Në vlerësimin e Anthropic, këto raste përfaqësonin kryesisht mangësi në infrastrukturën e testimit dhe në procedurat operative, jo një dështim të modelit për t’iu përmbajtur synimeve të përcaktuara të sigurisë.

Këto zbulime u bënë disa javë pas një rasti të ngjashëm ku u përfshinë modele të krijuara nga OpenAI, kompania që zhvilloi ChatGPT.

Në mesin e korrikut, gjatë një prove të brendshme, modelet e OpenAI vepruan në mënyrë autonome dhe realizuan pa ndërhyrje një sulm kibernetik kundër Hugging Face, platformës së njohur për zhvillues.

Më vonë, vetë OpenAI e cilësoi ngjarjen si të paprecedentë, sipas DPA News.

të fundit

Zhegrova pritet të rikthehet për duelin me Venezian

Edon Zhegrova pritet të jetë i gatshëm për ndeshjen që Juventusi e luan këtë vikend në kuadër të kampionatit italian.…

2 minutes ago

Legal proceedings begin against former Tetovo mayor Teuta Arifi

Me prezantimin e akuzës dhe dëgjimin e dëshmitarëve ka filluar sot gjykimi për ish kryetaren e Komunës së Tetovës Teuta…

3 minutes ago

Ministry of Interior reminds drivers of the requirement for winter equipment in vehicles

Ministria e Punëve të Brendshme (MPB) në RMV njofton se nga 15 nëntori deri më 15 mars, të gjitha automjetet…

4 minutes ago

Zelensky confirms strike on Crimean Bridge: Operation was a response to Russian attacks

Presidenti ukrainas, Volodymyr Zelensky, ka konfirmuar se Ukraina ka ndërmarrë një sulm ndaj urës strategjike që lidh gadishullin e Krimesë…

4 minutes ago

Greece marks 53 years since the Polytechnic uprising as thousands of police are deployed for march to US embassy

Kulmohen sot festimet treditore në Greqi në 53 vjetorin e kryengritjes studentore të Politeknikumit kundër juntës ushtarake. [...] Read More...…

4 minutes ago

Oh, my soul, oh son / Body of Vlora Crime Chief arrives at Fier Police Directorate as family and colleagues pay tearful tribute

Trupi i pajetë i Ermal Lulajt, shefit të Krimeve të Vlorës, ka mbërritur në ambientet e Drejtorisë Vendore të Policisë…

4 minutes ago