Sinjalizime prindërore kur adoleshentët përmendin vetëlëndim në bisedat virtuale të Meta-s

Meta, kompania mëmë e Facebook dhe Instagram, ka vendosur të njoftojë prindërit e adoleshentëve sapo sistemi i saj i inteligjencës artificiale kap biseda që përmbajnë referenca për vetëvrasje apo dëmtime personale.

Sipas kompanisë, qëllimi është t’i mbajë familjarët në dijeni në rast se shërbimi i tyre zbulon shenja se një i mitur mund të jetë duke kaluar një periudhë të vështirë emocionale.

Ky mekanizëm do të aktivizohet ekskluzivisht për profilet që kanë të konfiguruar opsionet e kontrollit familjar. Ai plotëson një masë të paralajmëruar në muajin shkurt, kur kompania bëri të ditur se do të alarmonte prindërit nëse fëmija i tyre kryente kërkime të shpeshta me fjalë kyçe të lidhura me këto tema brenda një kohe të shkurtër.

Të enjten, gjigandi teknologjik saktësoi se sinjalizimet do të përfshijnë tani edhe shkëmbimet e mesazheve me Meta AI, asistentin e automatizuar të bisedës që ofron kompania.

Megjithatë, Fondacioni Molly Rose, një organizatë që lufton për mbrojtjen digjitale, ka paralajmëruar sërish se këto mesazhe “do të shkaktojnë panik te familjarët” dhe ka theksuar se firma duhet t’i japë përparësi zgjidhjes së dobësive të sigurisë që ekzistojnë në platformat e saj.

Drejtori i përgjithshëm i fondacionit, Andy Burrows, ka deklaruar:

“Kjo praktikë imponon ndarjen e të dhënave delikate për adoleshentët pikërisht në çastin kur atyre u duhet asistencë dhe këshillim profesional. Është një qasje me rrezikshmëri të lartë.”

“Çdo prind do të donte ta dinte nëse fëmija i tij vuan, por një mesazh i menjëhershëm do ta lërë të tmerruar, ndaj është jetike që të ofrohet një rrjet i fuqishëm mbështetjeje për t’i ndihmuar ata të përballojnë diskutimet delikate që do të pasojnë.”

“Hulumtimet tona konfirmojnë se platformat e grupit Meta vazhdojnë të jenë burime të mëdha rreziku për sa i përket vetëvrasjeve dhe lëndimeve vetjake në internet, prandaj prioriteti i kompanisë duhet të jetë korrigjimi i defekteve të sigurisë në thelbin e shërbimeve të veta.”

Fondacioni mban emrin e Molly Russell, një 14-vjeçare që ndërroi jetë në vitin 2017 pas ekspozimit ndaj materialeve të rrezikshme në rrjet.

Meta e ka pranuar se këto njoftime mund të tronditin prindërit, por siguron se do të tregojë “maturi maksimale” përpara se të miratojë dërgimin manual të sinjalizimeve.

Kompania sqaroi gjithashtu:

“Ne jemi të ndërgjegjshëm për ndjeshmërinë e këtyre mesazheve për çdo prind. Për këtë arsye, ndërkohë që rafinojmë algoritmin tonë të zbulimit, ekipet tona do të kontrollojnë personalisht të gjitha bisedat e flamurizuara nga inteligjenca artificiale përpara çdo sinjalizimi.”

“Kur qëllimi i të miturit nuk është plotësisht i qartë, ne do të anojmë nga ana e maturisë duke lajmëruar familjen. Edhe pse kjo nënkupton se herë pas here mund të alarmojmë prindërit pa një shkak të vërtetë shqetësimi, ne mendojmë se ky është një hap fillestar i drejtë dhe do të vijojmë të vëzhgojmë me kujdes funksionimin e sistemit.”

Këto sinjalizime janë funksionale tashmë në Shtetet e Bashkuara, Britaninë e Madhe, Australi dhe Kanada, dhe pritet të shtrihen globalisht brenda vitit aktual.