Nvidia prezanton platformë për të mbajtur nën kontroll veprimet e inteligjencës artificiale

Pas incidenteve të fundit që përfshijnë sisteme të inteligjencës artificiale që veprojnë në mënyrë mashtruese, Nvidia ka prezantuar Platformën e Hapur të Sigurisë së Agjentëve. Ajo synon të parandalojë veprimet e inteligjencës artificiale jashtë kontrollit të njerëzve.

Zgjidhja përbëhet nga dy mjete kryesore. I pari, OpenShell, është një program që vendos kufij të rreptë për sistemet e inteligjencës artificiale.

OpenShell kontrollon nëse sistemi ka vetëm lejet e domosdoshme për të kryer detyrën dhe e pengon të përdorë funksione të tjera. Programi është me kod të hapur dhe mund të përdoret edhe në kompjuterë të prodhuar nga kompani konkurruese, si Intel dhe Arm. Mjeti tjetër, Sentry, është i integruar drejtpërdrejt në çipat që nevojiten për të ekzekutuar programet e inteligjencës artificiale.

Sentry vëzhgon veprimtarinë e sistemeve dhe, nëse dallon sjellje të dyshimta ose përpjekje për të shkelur kufijtë e përcaktuar, vepron brenda fraksioneve të sekondës për ta bllokuar dhe izoluar automatikisht programin. Drejtues të Nvidia-s thanë se këto teknologji mund të kishin parandaluar incidentet e fundit të sigurisë të raportuara nga OpenAI dhe Anthropic.

Më shumë se njëqind kompani të mëdha, mes tyre Microsoft dhe JPMorgan Chase, po e përdorin tashmë këtë zgjidhje. Drejtori ekzekutiv i Nvidia-s, Jensen Huang, mendon se rreziqet e inteligjencës artificiale mund të trajtohen përmes zhvillimit të programeve më të sigurta, pa frenuar përparimin teknologjik të industrisë.

Në konferencën vjetore të Salesforce, në fillim të këtij muaji, Huang e cilësoi sigurinë e inteligjencës artificiale, përfshirë kërcënimin nga agjentët mashtrues, si një sfidë inxhinierike që zhvilluesit e programeve mund ta zgjidhin. /ANSA