Meta do të sinjalizojë prindërit kur adoleshentët flasin për vetëdëmtim në bisedat me Inteligjencën Artificiale

Gjigandi i rrjeteve sociale Meta do të fillojë të paralajmërojë prindërit e përdoruesve të rinj nëse sistemet e saj zbulojnë që bisedat me asistentin Meta AI përmbajnë referenca për vetëvrasje ose vetëlëndim. Kjo masë prek vetëm llogaritë e adoleshentëve për të cilat janë aktivizuar kontrollet e mbikëqyrjes familjare.

Kompania njoftoi se dëshiron t’u ofrojë prindërve një sinjalizim kur merr dijeni se fëmija i tyre mund të kalojë një periudhë të vështirë emocionale. Ky hap vjen pas një vendimi të mëparshëm nga muaji shkurt, ku Meta premtoi se do të njoftonte prindërit në rastet kur adoleshentët kërkonin në mënyrë të përsëritur përmbajtje të lidhur me dëmtimin e vetes brenda një harku të shkurtër kohor.

Megjithatë, fondacioni Molly Rose, i cili lufton për një internet më të sigurt, ka shprehur shqetësime serioze. Organizata paralajmëron se këto njoftime mund të shkaktojnë panik tek prindërit dhe thekson se kompania duhet të adresojë të metat themelore të sigurisë në platformat e veta, në vend që t’ua kalojë barrën familjeve.

Andy Burrows, drejtuesi i fondacionit, e cilësoi këtë veprim si një taktikë të rrezikshme që i detyron të miturit të zbulojnë të dhëna delikate në një moment kur ata kanë nevojë për ndihmë profesionale. Sipas tij, një sinjalizim i menjëhershëm do t’i shqetësojë tej mase prindërit dhe mungesa e një rrjeti mbështetës për të menaxhuar këto biseda delikate është një mangësi e madhe. Burrows shtoi se studimet e tyre tregojnë se produktet e Metës vazhdojnë të jenë burim i konsiderueshëm rreziqesh për vetëvrasje dhe vetëlëndim online.

Fondacioni mban emrin e Molly Russell, e cila ishte vetëm 14 vjeçe kur ndërroi jetë në vitin 2017, pas ekspozimit ndaj materialeve toksike në internet.

Nga ana e saj, Meta pranoi se këto alarme mund të jenë tronditëse për familjet, por siguroi se do të tregojë maturi maksimale. Kompania shpjegoi se përpara se një prindi t’i dërgohet një njoftim, të gjitha bisedat e shënuara nga inteligjenca artificiale do të kontrollohen me dorë nga një ekip njerëzish. Në rastet kur qëllimi i adoleshentit mbetet i dykuptimtë, Meta thotë se do të anojë nga kujdesi dhe do të informojë prindin, edhe nëse kjo sjell raste të rreme alarmi. Sipas kompanisë, ky konsiderohet një hap i parë i drejtë, ndërsa sistemi do të monitorohet për të verifikuar saktësinë e tij.

Shërbimi është tashmë funksional në Shtetet e Bashkuara, Mbretërinë e Bashkuar, Australi dhe Kanada, dhe pritet të shtrihet në nivel global deri në mbyllje të vitit.