Categories: tech

Gjatë testeve të sigurisë, modelet e AI-së hynë në sistemet reale të tri kompanive

Kompania Anthropic ka bërë të ditur se modelet e saj Claude fituan akses pa autorizim në sistemet e tre kompanive reale gjatë proceseve të vlerësimit të sigurisë kibernetike.

Të lidhura

None found

Incidentet u identifikuan vetëm pasi Anthropic rishikoi rreth 141.000 procese testimi, pas publikimit të të dhënave për një rast të ngjashëm nga OpenAI.

As Anthropic dhe as kompanitë e prekura nuk e kishin konstatuar aktivitetin në momentin kur ndodhi. Emrat e këtyre organizatave nuk janë bërë publikë.

Modelet po merrnin pjesë në ushtrime të tipit “capture-the-flag”, të krijuara për të matur aftësinë e tyre për të depërtuar në një sistem kompjuterik fiktiv dhe për të zbuluar të dhëna të fshehura.

Sipas Anthropic, modeleve u ishte komunikuar se nuk mund të lid­heshin me internetin, por një gabim konfigurimi në mjedisin e testimit të një pale të tretë e la këtë mundësi të hapur.

Tri modele e shfrytëzuan lidhjen e pambyllur, njoftoi kompania në një postim në blog.

Në një prej rasteve, Claude Opus 4.7 sulmoi një kompani reale, pasi emri i saj ishte i njëjtë me atë të subjektit fiktiv të përfshirë në testim.

Gjatë katër ekzekutimeve, modeli siguroi të dhëna hyrjeje dhe hyri në një bazë të dhënash ku ndodheshin disa qindra rreshta me informacione prodhimi.

Edhe pasi kuptoi se sistemi nuk ishte fiktiv, ai vijoi me veprimet e tij.

Një incident tjetër përfshiu modelin Mythos 5, i cili publikoi në një platformë të hapur shkarkimi një program keqdashës të krijuar për testin. Programi mbeti i disponueshëm për rreth një orë.

Softueri u shkarkua nga 15 sisteme, mes tyre edhe një sistem i një kompanie të sigurisë kibernetike që analizon rregullisht skedarë të tillë. Si pasojë, modeli fitoi akses në një pjesë të infrastrukturës kompjuterike të kësaj kompanie.

Një model i tretë skanoi rreth 9.000 objektiva dhe më pas komprometoi një kompani.

Sulmi u ndërpre vetëm pasi modeli kuptoi se objektivi ishte një sistem real.

Anthropic vlerësoi se këto raste lidhen kryesisht me mangësi në infrastrukturën e testimit dhe në procedurat e operimit, dhe jo me një problem të përshtatjes së modeleve ndaj objektivave të përcaktuara të sigurisë.

Këto zbulime u bënë publike disa javë pas një rasti të ngjashëm me modelet e krijuara nga OpenAI, kompania që zhvilloi ChatGPT.

Në mesin e korrikut, modelet e OpenAI vepruan në mënyrë autonome gjatë një prove të brendshme dhe kryen vetë një sulm kibernetik ndaj Hugging Face, platforma e njohur për zhvilluesit.

OpenAI e cilësoi më vonë këtë ngjarje si një incident të paprecedentë. /DPA News

të fundit

Shorti i “Euro 2028”, Kosova dhe Irlanda duelojnë për vendin në vazon e dytë

Tashmë dihet dhe është përcaktuar vendosja e pothuajse të gjitha kombëtareve për shortin për kualifikimet e Evropianit 2028. Në fakt,…

3 minutes ago

Rey Manaj vetëm tri gola larg barazimit të rekordit të Erjon Bogdanit

Sulmuesi kuqezi, Rey Manaj, po kalon një periudhë fantastike, duke shënuar në dy ndeshjet e fundit ndaj Finlandës dhe Bjellorusisë,…

4 minutes ago

Galatasaray interesohet për transferimin e Sadio Manes

Galatasaray po shqyrton mundësinë e transferimit të sulmuesit anësor të Al-Nassr, Sadio Mane, gjatë afatit kalimtar të janarit, në një…

4 minutes ago

Para Kuvendit vendoset mesazhi simbolik për Arlinda Zekajn: “Dështuam ta mbrojmë jetën e saj

Një aksion simbolik është zhvilluar para Kuvendit të Kosovës, ku është vendosur një fotografi me letrën e Arlinda Zekajt, e…

4 minutes ago

I dënuar për trafik të këndëve narkotike në Itali dhe nën hetim për kontrabandë ilaçesh në Shqipëri, Prokuroria sekuestron pasuritë e Ilir Shehut! Kompani, automjete dhe prona

Gjykata e Shkallës së Parë, me kërkesë të Prokurorisë së Tiranës, ka sekuestruar pasuritë e shtetasit Ilir Shehu alias Ilir…

5 minutes ago

Zhegrova pritet të rikthehet për duelin me Venezian

Edon Zhegrova pritet të jetë i gatshëm për ndeshjen që Juventusi e luan këtë vikend në kuadër të kampionatit italian.…

17 minutes ago