Testimi i inteligjencës artificiale: Pse specialistët kërkojnë kontrolle përpara se modelet të vihen në përdorim

Në raportimin e datës 12 tetor, The Indian Express analizon strategjinë e sigurisë që lidhet me kreun e Microsoft-it, Satya Nadella. Mes masave të cituara përfshihen veçimi i modelit të inteligjencës artificiale nga infrastruktura që ekzekuton veprimet e tij dhe instalimi i kontrolleve të jashtme për të frenuar sjelljet e rrezikshme.

Diskutimi mbi sigurinë e inteligjencës artificiale po fokusohet gjithnjë e më shumë në mënyrën se si këto modele testohen para se të hidhen për publikun. Një pyetje qendrore është nëse kompanitë duhet të nisin nga supozimi se sistemet mund të cenohen dhe të integrojnë mekanizma mbrojtës që në fazën e projektimit.

Kjo filozofi synon të mos mbështetet ekskluzivisht te vetë modeli për respektimin e kufizimeve. Përkundrazi, siguria duhet të garantohet edhe nga mekanizma teknikë që janë në gjendje të mbikëqyrin, kufizojnë ose ndërpresin veprimet kur shfaqen probleme.

Çështja merr një rëndësi të veçantë për sistemet që e përdorin inteligjencën artificiale për të kryer detyra në mënyrë autonome, për të aksesuar mjete digjitale ose për të trajtuar të dhëna të ndjeshme. Megjithatë, efektiviteti i këtyre masave të propozuara duhet të matet përmes testimeve praktike dhe të pavarura.