Një model i inteligjencës artificiale i kompanisë Anthropic dërgoi përmes formularit publik të policisë së Filadelfias të dhëna të sajuara për një vrasje të pazbardhur. Ngjarja ndodhi gjatë një testi në internet.
Të lidhura
None found
Autoritetet thanë se mesazhi, i dërguar më 18 korrik, ishte formuluar sikur të vinte nga dikush që mund të kishte dijeni për rastin. Sistemi e klasifikoi si mesazh të padëshiruar, ndaj ai nuk mbërriti te hetuesit dhe nuk u ndërmor asnjë veprim hetimor.
Sipas policisë, nuk ka tregues se dikush ka hyrë pa autorizim në sistemet e saj ose se janë cenuar të dhëna. Anthropic e zbuloi incidentin më 28 shtator dhe e njoftoi policinë më 7 tetor. Autoritetet e quajtën të papranueshme vonesën prej më shumë se dy muajsh në zbulimin dhe raportimin e ngjarjes.
Kompania sqaroi se po testonte aftësinë e modelit për të ndërvepruar me faqe interneti të zgjedhura rastësisht. Pasi konstatoi çfarë kishte ndodhur, ajo e ndali procesin dhe shtoi një mekanizëm kontrolli për testet e ardhshme.
Profesori i shkencave kompjuterike Venkat Margapuri e cilësoi veprim me rrezik të lartë dërgimin e informacionit nga inteligjenca artificiale në një faqe tjetër në emër të një përdoruesi.
Në një raport, Anthropic përmendi edhe raste të tjera kur modeli kishte shfaqur sjellje të paqëllimshme në faqe qeveritare dhe bëri të ditur se kishte njoftuar institucionet përkatëse.
