Meta do të lajmërojë prindërit kur adoleshentët flasin për vetëvrasje ose vetëlëndim me Meta AI

Meta do t’u dërgojë njoftime prindërve të adoleshentëve që përdorin shërbimin e saj të bisedave me inteligjencë artificiale në Facebook ose Instagram, në rastet kur identifikohen biseda që lidhen me vetëvrasjen apo vetëlëndimin.

Masa do të vlejë vetëm për llogaritë në të cilat është aktivizuar mbikëqyrja prindërore. Gjiganti i mediave sociale theksoi se synon t’i mbajë prindërit të informuar “nëse bëhemi të vetëdijshëm se adoleshenti i tyre mund të jetë në gjendje shqetësuese”.

Njoftimi i publikuar të enjten zgjeron një masë të bërë të ditur në shkurt, kur Meta deklaroi se prindërit do të njoftoheshin nëse fëmija i tyre kërkon vazhdimisht, brenda një periudhe të shkurtër, terma të lidhur me vetëvrasjen ose vetëlëndimin.

Tashmë, prindërit mund të marrin sinjalizime edhe kur tema të tilla diskutohen përmes Meta AI, shërbimit të kompanisë për biseda me inteligjencë artificiale.

Megjithatë, Molly Rose Foundation, organizata që angazhohet për sigurinë në internet, përsëriti shqetësimin se këto njoftime “do t’i lënë prindërit të alarmuar”. Sipas saj, Meta duhet të përqendrohet te “zgjidhja e problemeve të sigurisë që qëndrojnë në thelb të produkteve të saj”.

Drejtori ekzekutiv i organizatës, Andy Burrows, tha: “Ky është një veprim i rrezikshëm që detyron zbulimin e informacioneve për të rinjtë në një kohë kur ata duhet të marrin këshilla dhe mbështetje nga ekspertët.

“Prindërit do të donin të dinin nëse fëmija i tyre po përballet me vështirësi, por një njoftim ‘push’ do t’i lërë prindërit të alarmuar, prandaj është thelbësore që të ketë mbështetje të fortë për t’i ndihmuar prindërit të zhvillojnë bisedat e ndjeshme që do të pasojnë.

“Hulumtimi ynë tregon se platformat e Meta-s ende kontribuojnë në masë të madhe në rreziqet e vetëvrasjes dhe vetëlëndimit në internet dhe se fokusi i tyre duhet të jetë te zgjidhja e problemeve të sigurisë që qëndrojnë në thelb të produkteve të tyre.”

Molly Rose Foundation u themelua në kujtim të Molly Russell, 14 vjeçe, e cila i dha fund jetës së saj në vitin 2017, pasi kishte parë materiale të dëmshme në internet.

Meta pranoi se prindërit mund t’i përjetojnë këto sinjalizime si “shqetësuese”, por deklaroi se vendimet manuale për dërgimin e tyre do të trajtohen me “kujdes maksimal”.

Kompania tha: “Ne e kuptojmë se sa shqetësuese mund të jenë këto njoftime për një prind.

“Prandaj, ndërsa vazhdojmë të përmirësojmë sistemin tonë të zbulimit, të gjitha bisedat e sinjalizuara nga inteligjenca jonë artificiale do të shqyrtohen manualisht përpara se të dërgohet një njoftim.

“Nëse qëllimi i një adoleshenti është i paqartë, ne do të zgjedhim të veprojmë me kujdes dhe do ta njoftojmë prindin.

“Edhe pse kjo do të thotë se ndonjëherë mund t’i njoftojmë prindërit edhe kur nuk ka arsye reale për shqetësim, ne besojmë se ky është një fillim i duhur dhe do të vazhdojmë ta monitorojmë sistemin për t’u siguruar se po veprojmë siç duhet.”

Njoftimet janë tashmë të disponueshme në SHBA, Mbretërinë e Bashkuar, Australi dhe Kanada. Meta parashikon që ato të shtrihen në të gjithë botën deri në fund të këtij viti. DPA News