Ndërsa kompanitë teknologjike garojnë për krijimin e sistemeve gjithnjë e më të fuqishme të inteligjencës artificiale, Microsoft po përpiqet t’i përgjigjet një dileme që dikur i përkiste vetëm fantashkencës: si duhet vepruar nëse një sistem bëhet aq autonom sa njerëzit duan ta ndalojnë gjatë kryerjes së një detyre?
Të lidhura
None found
Për Microsoft AI, përgjigjja është e qartë: vendimi përfundimtar duhet të mbetet gjithmonë në duart e njeriut.
Microsoft AI ka publikuar draftin e Humanist AI Code of Conduct, dokument të cilin Mustafa Suleyman, CEO i Microsoft AI, e ka përshkruar si një lloj “kushtetute” për modelet e ardhshme të kompanisë.
Kjo nismë nuk synon të jetë vetëm një deklaratë parimore. Ajo parashikohet të shërbejë si udhërrëfyes për trajnimin, sjelljen dhe qeverisjen e sistemeve që do të zhvillojë Microsoft AI.
Thelbi i dokumentit përmblidhet në parimin “People matter more than AI”, që do të thotë se interesat dhe siguria e njerëzve kanë përparësi ndaj inteligjencës artificiale.
Sipas kësaj qasjeje, një sistem nuk duhet t’i kundërvihet korrigjimit njerëzor dhe duhet të jetë në gjendje të pranojë ndërprerjen apo fikjen e tij.
Nëse një model shkel kufijtë e përcaktuar në kod, fakti që e ka përmbushur objektivin nuk mund ta arsyetojë sjelljen e tij. Edhe një rezultat i suksesshëm do të konsiderohej dështim nëse është arritur përmes shkeljes së rregullave.
Kjo mënyrë të menduari e zgjeron debatin për sigurinë e AI-së përtej vlerësimit nëse një chatbot jep përgjigje të sakta apo jo.
Rreziku bëhet më i ndërlikuar me përhapjen e AI agents, të njohur si agjentë autonomë.
Ndryshe nga një chatbot i zakonshëm, i cili zakonisht reagon ndaj kërkesave të përdoruesit, një agjent mund të përdorë mjete të ndryshme, të shfletojë internetin, të ndërveprojë me programe e databaza dhe të kryejë veprime me më pak mbikëqyrje njerëzore.
Kur një sistem ka qasje në shërbime online, aplikacione ose infrastruktura të tjera, një gabim nuk kufizohet domosdoshmërisht te një përgjigje e pasaktë në ekran. Ai mund të prodhojë veprime reale dhe pasoja konkrete.
Për këtë arsye, rregullat e Microsoft vendosin kufizime edhe për ndihmën në veprimtari që mund të shkaktojnë dëme të rënda, përfshirë disa lloje sulmesh kibernetike dhe krijimin e armëve.
Dokumenti kërkon gjithashtu që modelet të jenë të kuptueshme për njerëzit dhe të mbeten nën një kontroll njerëzor të rëndësishëm.
Kjo qasje lidhet me diskutimin më të gjerë për menaxhimin e rrezikut në industrinë teknologjike. Korniza amerikane e NIST-it për Menaxhimin e Rrezikut të Inteligjencës Artificiale e sheh sigurinë si një proces që duhet të zbatohet gjatë gjithë ciklit të jetës së sistemit.
Korniza bazohet në katër funksione kryesore: qeverisje, hartëzim, matje dhe menaxhim. Ajo vë theksin te siguria, transparenca, shpjegueshmëria, qëndrueshmëria dhe përgjegjshmëria.
Prandaj, vëmendja nuk duhet të përqendrohet vetëm te mënyra se si ndërtohet një model, por edhe te monitorimi dhe kontrolli i tij pasi vihet në përdorim.
Dokumenti i Microsoft trajton edhe pyetjen nëse një sistem i inteligjencës artificiale mund të shihet si qenie e ndërgjegjshme dhe nëse një pretendim i tillë do t’i jepte të drejtën për status juridik.
Pozicioni i tanishëm i Microsoft AI është se modelet e kompanisë nuk trajtohen si qenie të ndërgjegjshme. Kompania kundërshton gjithashtu dhënien e një statusi ligjor të krahasueshëm me atë të njerëzve.
Kjo çështje mund të marrë peshë më të madhe në të ardhmen. Nëse përdoruesit nisin t’i shohin sistemet AI si subjekte me ndjenja, dëshira ose interesa personale, kufizimi, korrigjimi apo fikja e tyre mund të shoqërohet edhe me dilema morale.
Microsoft kërkon ta përcaktojë që në fazën e projektimit marrëdhënien mes teknologjisë dhe shoqërisë: AI duhet t’u shërbejë njerëzve dhe nuk duhet të shndërrohet në një autoritet paralel me ta.
Megjithatë, mbetet e hapur çështja nëse vetërregullimi i kompanive është i mjaftueshëm për të vendosur kufijtë e sistemeve që ato zhvillojnë.
Kodi i Microsoft nuk është ligj, por një mekanizëm i brendshëm vetërregullues. Sipas kompanisë, hartimi i tij është mbështetur në konsultime me ekspertë të inteligjencës artificiale, ligjit, etikës, filozofisë, gjuhësisë dhe politikave publike, si dhe në biseda me qytetarë.
Megjithatë, rregullat që një kompani vendos për veten dhe detyrimet që përcaktohen nga ligji përfaqësojnë dy nivele të ndryshme kontrolli.
Në Bashkimin Evropian, ky dallim reflektohet përmes AI Act. Kuadri ligjor parashikon detyrime për ofruesit e modeleve të inteligjencës artificiale me përdorim të përgjithshëm.
Sistemet që vlerësohen si burim i rrezikut sistemik përballen me kërkesa shtesë, të cilat lidhen me vlerësimin dhe uljen e rrezikut, raportimin e incidenteve dhe sigurinë kibernetike.
BE-ja ka hartuar gjithashtu një Kod Praktike për AI me përdorim të përgjithshëm. Në të përfshihen tema si transparenca, të drejtat e autorit, siguria dhe mbrojtja.
Kështu, krahas rregullave që kompanitë vendosin për modelet e tyre, po ndërtohet edhe një shtresë tjetër kontrolli përmes kërkesave të vendosura nga autoritetet publike.
Deri tani, gara mes Microsoft, OpenAI, Google, Anthropic dhe kompanive të tjera është vlerësuar kryesisht përmes kapaciteteve të modeleve: aftësisë për të arsyetuar, për të shkruar kod, për të përpunuar sasi të mëdha informacioni dhe për të krijuar agjentë më autonomë.
Me rritjen e fuqisë së këtyre teknologjive, po fiton rëndësi një pyetje tjetër: cila kompani mund të dëshmojë se sistemet e saj vazhdojnë të jenë të kontrollueshme?
Microsoft po përpiqet ta përfshijë kontrollin njerëzor jo vetëm në politikat që rregullojnë përdorimin e AI-së, por edhe në parimet që drejtojnë sjelljen e vetë modeleve.
Nëse kjo qasje jep rezultat, ideja e një “kushtetute për AI-në” mund të kthehet nga një metaforë në një mekanizëm të rëndësishëm për të përcaktuar jo vetëm aftësitë e inteligjencës artificiale, por edhe veprimet që nuk duhet t’i lejohen, pavarësisht se teknikisht mund t’i kryejë. /GazetaExpress/
