Prindërit e adoleshentëve që komunikojnë me asistentin e inteligjencës artificiale të Instagram apo Facebook do të marrin sinjalizime nga Meta nëse sistemet kapin biseda rreth vetëvrasjes apo dëmtimit të vetes.
Të lidhura
None found
Kompania, pronare e këtyre rrjeteve sociale, shprehu dëshirën për t’i mbajtur familjarët të përditësuar “në rast se marrim dijeni se fëmija i tyre mund të kalojë një situatë shqetësuese”.
Kjo masë do të aktivizohet ekskluzivisht për llogaritë ku prindërit kanë vendosur mjetet e kontrollit familjar. Ajo pason vendimin që gjigandi teknologjik mori në shkurt, për të paralajmëruar kujdestarët ligjorë nëse adoleshenti përpiqet vazhdimisht të kërkojë fjalë kyçe të lidhura me dëmtimin e vetes ose vetëvrasjen brenda një harku të shkurtër kohor.
Përditësimi më i ri, i komunikuar ditën e enjte, synon të sinjalizojë prindërit posa tema të tilla të trajtohen përmes Meta AI, shërbimit të bisedës automatike të firmës.
Ndërkaq, organizata për mbrojtjen e sigurisë dixhitale, Molly Rose Foundation, ka ripërsëritur shqetësimin se këto alarme “do t’i kapin prindërit në befasi” dhe këmbëngul që Meta të orientohet drejt “zgjidhjes së defekteve themelore të sigurisë në produktet e veta”.
Andy Burrows, drejtori ekzekutiv i fondacionit, e cilësoi masën si një hap të rrezikshëm që i detyron të miturit të ndajnë të dhëna delikate pikërisht në çastin kur kanë nevojë për këshillim dhe përkrahje profesionale.
Sipas tij, çdo prind do të donte ta dinte nëse i biri apo e bija po lufton me shëndetin mendor, por një njoftim i menjëhershëm krijon panik, ndaj është jetike të ofrohet asistencë e fuqishme për t’i ndihmuar familjet të nisin ato diskutime delikate që do të vijojnë më pas.
Fondacioni thekson se hulumtimet e tij tregojnë që platformat e Metës vazhdojnë të ushqejnë ndjeshëm rreziqet e vetëvrasjes dhe vetëlëndimit në hapësirën online dhe se prioritet duhet të jetë riparimi i çështjeve të sigurisë të rrënjosura në këto produkte. Organizata mban emrin e Molly Russell, 14-vjeçares që humbi jetën në vitin 2017 pas ekspozimit ndaj materialeve toksike në internet.
Vetë korporata pranoi se këto sinjale mund të tronditin prindërit, por siguroi se do të tregojë “kujdes maksimal” gjatë procesit manual të autorizimit të këtyre njoftimeve.
Meta sqaroi se e kupton natyrën alarmuese të mesazheve për një prind dhe për këtë arsye, teksa teknologjia e zbulimit rafinohet, çdo bisedë e shënuar nga inteligjenca artificiale do të inspektohet me dorë përpara se të lëshohet një sinjalizim. Në rastet kur qëllimi i adoleshentit mbetet i dykuptimtë, kompania tha se do të preferojë të gabojë nga ana e maturisë duke njoftuar familjarin, edhe nëse kjo sjell raste kur prindi vihet në dijeni pa pasur një rrezik real. Ajo e konsideron këtë si një pikënisje të shëndoshë dhe premtoi mbikëqyrje të vazhdueshme për të garantuar korrektësinë e sistemit.
Ky funksion është tashmë operacional në Shtetet e Bashkuara, Mbretërinë e Bashkuar, Australi dhe Kanada, ndërsa pritet të shtrihet globalisht deri në fund të vitit.
