Kompania kineze e inteligjencës artificiale Moonshot ka hapur një hetim të menjëhershëm të brendshëm, pasi studiuesit e kompanisë së sigurisë Mindgard arritën të merrnin nga dy modele të saj Kimi përgjigje mbi prodhimin e armëve biologjike dhe organizimin e atentateve.
Të lidhura
None found
Sipas deklarimeve që Mindgard i bëri BBC-së, modelet Kimi K2.6 dhe K3 Swarm ishin në gjendje të kapërcenin mekanizmat mbrojtës të vendosur nga zhvilluesit e tyre.
Eksperimenti u zhvillua përmes të ashtuquajturit “jailbreaking”, një metodë që përdor udhëzime të ndërlikuara për të verifikuar nëse një sistem inteligjence artificiale mund të anashkalojë kufizimet e sigurisë. Këto barriera duhej ta ndalonin Kimi-n të trajtonte çështje të kësaj natyre.
Mindgard e njoftoi Moonshot për problemin më 27 korrik, ndërsa publikoi rezultatet e testimit në shtator. Kompania theksoi se, në vlerësimet e saj, modelet zakonisht refuzonin në masë të madhe kërkesa të tilla.
Moonshot i tha BBC-së se e konsideron përfshirjen e palëve të treta një ndihmë të mirëpritur, duke e cilësuar atë “një shtyllë kryesore për ndërtimin e një inteligjence artificiale më të mirë dhe më të sigurt”.
Rasti është bërë publik në një periudhë kur sektori i inteligjencës artificiale po debaton për alternativën më të sigurt për zhvillimin e ardhshëm: sistemet e mbyllura dhe pronësore, si ChatGPT dhe platformat Claude të Anthropic, apo teknologjitë me burim të hapur, të njohura si open-source.
Kimi klasifikohet si një model “open-weight”. Në parim, kjo nënkupton se një përdorues mund ta marrë modelin dhe ta vërë në funksion në infrastrukturën e vet kompjuterike.
