Meta do të njoftojë prindërit kur adoleshentët flasin për vetëvrasje ose vetëlëndim në bisedat me AI

Prindërit që kanë adoleshentë përdorues të asistentit të inteligjencës artificiale në Facebook ose Instagram do të marrin sinjalizime nga kompania Meta, në rast se sistemet zbulojnë biseda rreth vetëvrasjes apo dëmtimit të vetes.

Gjigandi teknologjik, pronar i këtyre rrjeteve sociale, theksoi se synon t’i mbajë prindërit të përditësuar “kur të marrim dijeni se fëmija i tyre mund të jetë në një situatë shqetësuese”.

Masa e re, e cila prek vetëm llogaritë me mbikëqyrje prindërore të aktivizuar, pason vendimin e shkurtit, kur Meta njoftoi se do të paralajmërojë prindërit nëse adoleshenti kërkon vazhdimisht terma të lidhur me vetëvrasjen ose vetëlëndimin në një hark të shkurtër kohor.

Të enjten, kompania dha lajmin e radhës, duke specifikuar se prindërit do të sinjalizohen edhe kur tema të tilla trajtohen përmes Meta AI, asistenti i saj virtual i bisedave.

Megjithatë, fondacioni Molly Rose, i angazhuar për sigurinë në hapësirën dixhitale, ripohoi shqetësimin se këto sinjalizime “do t’i mbajnë prindërit në ankth” dhe këmbënguli që Meta të fokusohet te “rregullimi i çështjeve themelore të sigurisë në produktet e veta”.

Andy Burrows, drejtori i fondacionit, e cilësoi masën si “një hap të rrezikshëm që detyron ekspozimin e të dhënave të të rinjve në një moment kur atyre u duhet këshillim dhe përkrahje e specializuar”.

Ai shtoi se edhe pse çdo prind do të donte ta dinte nëse fëmija po kalon sfida, “një mesazh i tillë i menjëhershëm do t’i shkaktojë alarm, prandaj është thelbësore të ofrohet mbështetje e fuqishme për t’i ndihmuar ata të zhvillojnë bisedat delikate që pasojnë”.

Sipas tij, hulumtimet tregojnë se platformat e Metës vazhdojnë të jenë burim i madh rreziqesh për sa i përket vetëvrasjes dhe vetëlëndimit në internet, ndaj kompania duhet të përqendrohet në adresimin e defekteve të sigurisë në thelb të shërbimeve të saj.

Fondacioni mban emrin e Molly Russell, e cila ishte 14 vjeç kur i dha fund jetës më 2017, pas ekspozimit ndaj materialeve të dëmshme në rrjet.

Meta e pranoi se sinjalizimet e tilla mund të jenë shqetësuese për prindërit, por siguroi se do të tregojë “kujdesin më të madh” gjatë vendimmarrjes manuale për nisjen e tyre.

Kompania sqaroi se të gjitha bisedat e raportuara nga inteligjenca artificiale do të kalojnë nëpër një rishikim njerëzor përpara se prindi të marrë njoftimin, ndërsa sistemi i zbulimit vijon të përmirësohet.

“Në rastet kur qëllimi i adoleshentit mbetet i dykuptueshëm, ne do të anojmë nga kujdesi dhe do të njoftojmë prindin,” deklaroi Meta, duke pranuar se kjo mund të çojë herë pas here në sinjalizime edhe kur nuk ka një rrezik real.

Kompania e sheh këtë si një pikënisje të drejtë dhe premtoi se do të vazhdojë të monitorojë funksionimin e sistemit për t’u siguruar që po veprohet siç duhet.

Shërbimi i sinjalizimeve është aktualisht funksional në Shtetet e Bashkuara, Britaninë e Madhe, Australi dhe Kanada, dhe pritet të shtrihet globalisht deri në fund të vitit.