Meta njofton prindërit kur adoleshentët flasin për vetëvrasje apo vetëlëndim me asistentin e saj AI

Gjigandi i rrjeteve sociale Meta do të fillojë t’u dërgojë sinjalizime prindërve, në rast se inteligjenca artificiale e integruar në Facebook dhe Instagram zbulon që përdoruesit adoleshentë po zhvillojnë biseda rreth vetëlëndimit apo vetëvrasjes.

Kompania njoftoi të enjten se ndërhyrja synon t’i mbajë të përditësuar prindërit kur sistemi dallon shenja se fëmija i tyre mund të jetë duke kaluar një moment të vështirë emocional. Masat do të jenë aktive vetëm për ato profile ku janë vendosur mekanizmat e mbikëqyrjes familjare.

Kjo lëvizje plotëson një nismë të mëparshme të shpallur në muajin shkurt, sipas së cilës prindërve do t’u dërgoheshin alarme nëse adoleshenti tenton disa herë radhazi të kërkojë përmbajtje të lidhur me vetëvrasjen.

Pavarësisht qëllimeve të deklaruara, nisma është pritur me rezerva nga grupet e avokimit për sigurinë në internet. Fondacioni Molly Rose, i ngritur në kujtim të 14-vjeçares Molly Russell e cila ndërroi jetë më 2017 pasi pati kontakt me materiale toksike online, paralajmëroi se lajmërimet e tilla mund të tronditin familjarët pa u ofruar atyre asistencën e duhur paraprake.

Andy Burrows, drejtor ekzekutiv i kësaj organizate, e cilësoi strategjinë si të rrezikshme, duke argumentuar se ajo i detyron të rinjtë të zbulojnë të dhëna personale në një fazë kur kanë nevojë për këshillim të specializuar. Sipas tij, marrja e një sinjalizimi të papritur do t’i lërë prindërit në panik dhe kërkohet një rrjet i fuqishëm mbështetës që t’i udhëheqë ata në bisedat delikate që pasojnë.

Burrows shtoi gjithashtu se studimet e tyre tregojnë që platformat e Metës vazhdojnë të kenë një ndikim të konsiderueshëm në rreziqet online që lidhen me dëmtimin e vetes, duke nënvizuar se prioritet duhet të ishte rregullimi i dobësive themelore të sigurisë në këto produkte.

Nga ana e saj, Meta e pranoi se mesazhet e tilla mund të shkaktojnë ankth, por shtoi se do të tregohet jashtëzakonisht e matur gjatë vlerësimit. Të gjitha bisedat e shënuara nga inteligjenca artificiale do të kalojnë në një kontroll njerëzor përpara se një njoftim t’u transmetohet prindërve.

Kompania sqaroi se nëse qëllimi pas fjalëve të adoleshentit mbetet i pasigurt, do të zgjedhë rrugën e paralajmërimit të familjarëve, edhe kur rasti në fund del të jetë një alarm i rremë. Sipas Metës, ky përqasje shënon një pikënisje korrekte dhe sistemi do të monitorohet vazhdimisht për të garantuar efikasitetin e tij.

Sinjalizimet e kësaj natyre tashmë funksionojnë në Shtetet e Bashkuara, Mbretërinë e Bashkuar, Australi dhe Kanada, dhe pritet që brenda këtij viti të shtrihen në të gjithë globin.