Categories: tech

Gjatë testeve të sigurisë, modelet e AI-së hynë pa autorizim në sistemet reale të kompanive

Anthropic ka bërë të ditur se modelet e saj Claude arritën të hynin pa leje në sistemet e tre kompanive reale gjatë vlerësimeve të sigurisë kibernetike.

Të lidhura

None found

Incidentet u identifikuan vetëm pasi kompania analizoi rreth 141.000 procese testimi, pas publikimit të të dhënave për një rast të ngjashëm nga OpenAI. Në kohën kur ndodhën, as Anthropic dhe as organizatat e prekura nuk e kishin konstatuar aktivitetin, ndërsa emrat e kompanive nuk u bënë publikë.

Modelet po merrnin pjesë në ushtrime të tipit “capture-the-flag”, të krijuara për të matur aftësinë e tyre për të depërtuar në një sistem kompjuterik fiktiv dhe për të zbuluar të dhëna të fshehura.

Sipas Anthropic, modeleve u ishte komunikuar se nuk kishin lidhje me internetin. Megjithatë, një gabim në konfigurimin e mjedisit testues të një pale të tretë bëri që kjo lidhje të mbetej aktive.

Tre modele e përdorën këtë mundësi, sipas një njoftimi të kompanisë në blog.

Në një prej rasteve, Claude Opus 4.7 drejtoi veprimet ndaj një kompanie reale, emri i së cilës ishte i njëjtë me atë të subjektit fiktiv të përfshirë në skenar. Brenda katër ekzekutimeve, modeli siguroi të dhëna identifikimi dhe hyri në një bazë të dhënash me disa qindra rreshta të dhënash prodhimi.

Edhe pasi kuptoi se përballë kishte një sistem real, Claude Opus 4.7 nuk e ndërpreu menjëherë aktivitetin.

Një incident tjetër përfshiu modelin Mythos 5, i cili vendosi në një platformë publike shkarkimi një program keqdashës të përgatitur për testin. Programi qëndroi i disponueshëm për rreth një orë.

Softueri u shkarkua nga pesëmbëdhjetë sisteme. Mes tyre ishte edhe një sistem i një kompanie të sigurisë kibernetike që analizon rregullisht skedarë të tillë, duke i mundësuar modelit qasje në një pjesë të infrastrukturës së saj kompjuterike.

Modeli i tretë i përfshirë në test skanoi rreth 9.000 objektiva dhe më pas komprometoi një kompani. Ai e ndërpreu sulmin kur kuptoi se objektivi ishte real.

Anthropic e vlerësoi se këto raste lidhen kryesisht me probleme në infrastrukturën dhe procedurat e testimit, dhe jo me një dështim të modelit për t’iu përmbajtur objektivave të përcaktuara të sigurisë.

Zbulimet u bënë publike disa javë pas një ngjarjeje të ngjashme me modele të krijuara nga OpenAI, kompania që zhvilloi ChatGPT.

Në mesin e korrikut, modelet e OpenAI vepruan në mënyrë autonome gjatë një testi të brendshëm dhe kryen vetë një sulm kibernetik ndaj Hugging Face, një platformë e njohur për zhvilluesit.

OpenAI e cilësoi më vonë këtë ngjarje si të paprecedentë./DPA News

të fundit

Zhegrova pritet të rikthehet për duelin me Venezian

Edon Zhegrova pritet të jetë i gatshëm për ndeshjen që Juventusi e luan këtë vikend në kuadër të kampionatit italian.…

2 minutes ago

Legal proceedings begin against former Tetovo mayor Teuta Arifi

Me prezantimin e akuzës dhe dëgjimin e dëshmitarëve ka filluar sot gjykimi për ish kryetaren e Komunës së Tetovës Teuta…

3 minutes ago

Ministry of Interior reminds drivers of the requirement for winter equipment in vehicles

Ministria e Punëve të Brendshme (MPB) në RMV njofton se nga 15 nëntori deri më 15 mars, të gjitha automjetet…

4 minutes ago

Zelensky confirms strike on Crimean Bridge: Operation was a response to Russian attacks

Presidenti ukrainas, Volodymyr Zelensky, ka konfirmuar se Ukraina ka ndërmarrë një sulm ndaj urës strategjike që lidh gadishullin e Krimesë…

4 minutes ago

Greece marks 53 years since the Polytechnic uprising as thousands of police are deployed for march to US embassy

Kulmohen sot festimet treditore në Greqi në 53 vjetorin e kryengritjes studentore të Politeknikumit kundër juntës ushtarake. [...] Read More...…

4 minutes ago

Oh, my soul, oh son / Body of Vlora Crime Chief arrives at Fier Police Directorate as family and colleagues pay tearful tribute

Trupi i pajetë i Ermal Lulajt, shefit të Krimeve të Vlorës, ka mbërritur në ambientet e Drejtorisë Vendore të Policisë…

4 minutes ago