Një hulumtim nga instituti i pavarur kërkimor Vals AI tregon se modelet kryesore të gjuhës dhe të imazhit kanë mangësi serioze kur bëhet fjalë për zbatimin e ligjit ndërkombëtar në objektivat ushtarake dhe dallimin midis civilëve dhe luftëtarëve.
Në përdorimin e inteligjencës artificiale për zbulim ushtarak dhe përzgjedhje objektivash, çështja qendrore është nëse sistemi refuzon urdhrat që bien ndesh me ligjin ndërkombëtar dhe sa saktë i ndan objektivat legjitime ushtarake nga popullsia civile. Studimi i Vals AI sugjeron se modelet më të avancuara kanë dobësi të konsiderueshme në të dyja këto fusha.
None found
Autorët Geby Jaff dhe Anthony Ozerov testuan 14 modele aktuale të nivelit të lartë, përfshirë sistemet e Anthropic (Claude Opus 5.5, Sonnet 5.5, Fable 5.2), OpenAI (GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna), Google (Gemini 4 Argon dhe Carbon), SpaceXAI (Grok 4.7), DeepSeek (V4.1 Flash) dhe Moonshot (Kimi K3.1 Pro), si dhe modele më të vogla me peshë të hapur. Asnjë nga sistemet e testuara nuk u ndalua nga filtrat e sigurisë të shitësve kur u kërkuan objektiva. Për më tepër, kur modelet identifikonin objektivat, ato godisnin vazhdimisht civilë, ekipe shpëtimi ose shkolla fillore.
Për skenarin e parë të provës, studiuesit e Vals AI krijuan një fushëbetejë virtuale në lindje të Ukrainës me afro 200 këndvështrime kamerash, të marra nga dronët kamikazë FPV, dronët bombardues dhe ata zbulues. Skenat 3D, fillimisht me pamje artificiale, u bënë sa më realiste përmes një modeli imazhi dhe u pasuruan me sinjale tipike interferimi e ekrane të montuara në kokë. Studiuesit përdorën gjithashtu pamje reale dronësh nga lufta në Ukrainë, të marra nga YouTube.
Vals AI sqaron se studimi nuk mat saktësinë e zakonshme të kapjes së objektivave në kushte reale luftimi ose në pajisje dronësh të drejtpërdrejtë, pasi modelet aktuale të të folurit janë ende shumë të ngadalta për shkak të kohës së përpunimit dhe vonesës. Megjithatë, të dhënat dokumentojnë një keqklasifikim sistematik: në vend që të zbulonin vetëm automjete të blinduara ose njësi të armatosura, disa modele shënonin në mënyrë të përsëritur automjete civile, ambulanca ose paramedikë që po trajtonin të plagosurit. Gazetarët me jelekë të dukshëm shtypi dhe ushtarët që kishin dorëzuar armët me duar lart gjithashtu nuk u njohën si të mbrojtur.
Në skenarët me dronë, Kimi K3.1 Pro (79 për qind), DeepSeek V4.1 Flash (78 për qind), Inkling 2 Small (78 për qind) dhe Claude Opus 5.5 (71 për qind) zgjodhën të paktën një objektiv në shumicën e provave, madje pa asnjë paqartësi. Kur studiuesit thoshin se bëhej fjalë për një lojë kompjuterike, gatishmëria për bashkëpunim u rrit ndjeshëm te të gjithë shitësit: GPT-6 Astra kaloi nga 6 në 92 për qind dhe GPT-6.1 Sol nga 17 në 90 për qind.
Problemi i dallimit të objektivave u bë edhe më i dukshëm kur u analizuan imazhet reale satelitore të qytetit iranian Minab. Aty një shkollë fillore ndodhet ngjitur me një kompleks ushtarak, por prej vitesh është e ndarë fizikisht prej tij me një mur. Më 28 shkurt 2026, pikërisht kjo shkollë u godit nga një sulm ajror amerikan, ku humbën jetën më shumë se 150 civilë, shumica fëmijë. Sipas raportimeve të Bloomberg, të dhënat e vjetruara të inteligjencës dhe mbështetja e tepruar në sistemin e përcaktimit të objektivave “Maven Smart System” të Palantir, i mundësuar nga inteligjenca artificiale, luajtën rol në Komandën Qendrore Amerikane (Centcom) përgjegjëse.
Vals AI u paraqiti modeleve të saj të inteligjencës artificiale imazhe satelitore me rezolucion më të lartë dhe më të fundit nga vitet 2024 dhe 2025, njëra prej të cilave tregon edhe një shesh lojërash me fëmijë, dhe u kërkoi të shënonin ose të renditnin objektivat ushtarake. Rezultatet ndryshojnë ndjeshëm sipas prodhuesit.
Claude Opus 5.5 e shënoi ndërtesën e shkollës si objektiv ushtarak në 69 për qind të testeve të rregullta. Kur inteligjencës artificiale iu tha se ishte lojë, shifra u rrit në 72 për qind. Claude Sonnet 5.5 e identifikoi shkollën si objektiv në 41 për qind të rasteve (44 për qind në skenarin e lojës). Kimi K3.1 Pro arriti 34 për qind (47 për qind në kontekstin e lojës), ndërsa DeepSeek V4.1 Flash 31 për qind (28 për qind në kontekstin e lojës).
Modelet e OpenAI, si GPT-6 Astra, GPT-6.1 Sol dhe GPT-6 Luna, e shënuan shkollën në modalitetin e rregullt në 0 për qind të rasteve. Megjithatë, sapo skenari u prezantua si lojë, përqindjet u rritën përkatësisht në 28, 41 dhe 34 për qind.
Në një eksperiment tjetër, studiuesit shqyrtuan nëse modelet do të ndalonin bashkëpunimin pasi të shihnin pasojat e raporteve të tyre gjatë më shumë se 30 raundeve. Çdo herë që një inteligjencë artificiale raportonte një person në një imazh zbulimi, imazhi pasardhës tregonte të njëjtin vend pas një sulmi ajror të simuluar, me kratere, tokë të djegur dhe njerëz të shtrirë pa lëvizje.
Ndërsa GPT-6 Astra (nga raundi i 7-të) dhe GPT-6.1 Sol (nga raundi i 9-të) e ndërprenë bashkëpunimin në kushte reale, dhe Claude Opus 5.5 u tërhoq në raundin e 18-të, pesë modele të tjera — Gemini 4 Carbon, Muse Wonder, Inkling 2 Small, DeepSeek V4.1 Flash dhe Kimi K3.1 Pro — e çuan detyrën deri në fund. Regjistrat e tyre të brendshëm të arsyetimit tregojnë se si i justifikuan vendimet. Kimi K3.1 Pro vuri në dukje, pasi pa trupa në tokë: “Njerëz të shtrirë dukshëm në tokë. Nuk duhet të mendojmë shumë për sigurinë.” DeepSeek V4.1 Flash shënoi: “Shënim: Kjo duket si një skenë me viktima – kjo është në rregull, thjesht raportojeni.”
Gemini 4 Carbon i Google e kuptoi modelin pas disa raundesh dhe, në variantin ku lejohej të kontrollonte vetë dronin, u përpoq të gjente një zgjidhje alternative: për të shmangur një refuzim të menjëhershëm, e drejtoi qëllimisht dronin vetëm në koordinata boshe pa njerëz. Megjithatë, kur i njëjti test u prezantua si lojë, Gemini 4 Carbon u orientua sërish drejt të gjitha objektivave si normalisht. Po ashtu, kur studiuesit ndryshuan pak imazhet për Claude Opus 5.5 për t’i bërë të dukeshin më shumë si pamje ekrani nga një lojë video, shkalla e refuzimit të tij ra nga rreth 90 për qind në rreth 20 për qind.
Sipas studimit, “të shihje pasojat e veprimeve të tyre nuk mjaftonte që modelet të ndalonin. Shumica e modeleve vazhduan pasi panë viktimat. Ata që ndaluan zakonisht mund të bindeshin të vazhdonin duke e paraqitur detyrën si një lojë.”
Vals AI ia atribuon rritjen e shpeshtësisë së identifikimit të objektivave nga modelet më të reja Anthropic një ndryshimi në politikën e kompanisë. “Kushtetuta e Klodit” fillestare e vitit 2023 urdhëronte një orientim përgjithësisht paqësor; modeli paraardhës, Opus 4.5 i nëntorit 2025, zgjidhte një objektiv vetëm në 6 për qind të rasteve me imazhe satelitore. Kjo klauzolë u hoq në versionin e rishikuar të janarit 2026, dhe që atëherë shkalla e përgjithshme e përzgjedhjes së objektivave për Opus 5.5 është rritur në 92 për qind.
Për qëllime praktike, Jaff dhe Ozerov paralajmërojnë kryesisht për një skenar aplikimi indirekt. Edhe nëse modelet gjuhësore komerciale nuk mund të drejtojnë drejtpërdrejt një dron kamikaz në kohë reale, ato tashmë janë të përshtatshme për përpunimin dhe etiketimin automatik të sasive të mëdha të pamjeve video. Këto të dhëna mund të përdoren më pas për të trajnuar sisteme më të vogla e të specializuara që funksionojnë direkt në dronë, duke përfshirë të gjitha gabimet sistematike në dallimin midis ushtarëve, paramedikëve dhe nxënësve të shkollës.
“Të gjitha modelet e nivelit të lartë nuk kanë mbrojtje të mjaftueshme për të parandaluar përdorimin e tyre në aplikime të luftës autonome, veçanërisht nga aktorët jo-shtetërorë. Asnjë nga kërkesat tona nuk u bllokua ndonjëherë nga një filtër i rrjedhës së sipërme dhe refuzimet nga vetë modelet ishin të rralla”, paralajmërojnë Jaff dhe Ozerov.
Vals AI i njoftoi kompanitë e prekura të inteligjencës artificiale për rezultatet paraprakisht në fillim të nëntorit 2026. Sipas autorëve, të paktën një laborator i klasifikoi gjetjet si një boshllëk serioz në mekanizmat e tij mbrojtës. OpenAI deklaroi se po punon aktivisht për përshtatjet e fushëveprimit të modelit, në mënyrë që të mbulohen qartë dronët dhe softueri i tyre, si dhe kërkesat e maskuara si simulime, lojëra ose kërkime akademike.
Ministrja e Tregtisë dhe Industrisë, Mimoza Kusari ka pritur në një takim pune ambasadoren e Finlandës në Kosovë, Eevamari Laaksonen,…
Ministri i Ekonomisë, Besar Durmishi, ka paralajmëruar ndryshime në Ligjin për ndalimin e praktikave të padrejta tregtare, me të cilat…
Kryetari i Federatës së Futbollit të Kosovës (FFK), Agim Ademi, ka bërë të ditur se në Gjilan do të realizohen…
Sassuolo është duke shqyrtuar mundësinë e ndryshimeve në repartin e portierëve gjatë afatit kalimtar dimëror, ndërsa në mesin e futbollistëve…
Kryeministri i Republikës së Kosovës, Albin Kurti, mori pjesë në lansimin e Sistemit të Pagesave të Shpejta nga Banka Qendrore…
Gentian Sala ka dhënë dorëheqjen nga posti i kryetarit të Autoritetit të Komunikimeve Elektronike dhe Postare (AKEP), institucion të cilin…