Meta vai avisar pais quando filhos conversarem com IA sobre suicídio

A Meta anunciou nesta quinta-feira (16) recursos para proteger adolescentes que conversam com o Meta AI. A empresa vai alertar os pais ou responsáveis quando filhos tiverem conversas sobre suicídio ou automutilação com o chatbot. Com informações da CNN.

A big tech já tinha funcionalidades voltadas para jovens em contato com o serviço de IA, como o direcionamento do usuário para linhas de ajuda. A novidade é que a companhia passa a alertar os pais proativamente quando o serviço identificar sinais de risco.

A Meta revelou que trabalhou com pais e especialistas para entender quais conversas justificam um alerta, como uma menção clara ou sutil sobre automutilação, por exemplo. A empresa também criou uma ferramenta de IA própria para identificar esse tipo de diálogo.

Todas as conversas serão revisadas por um humano antes do alerta ser disparado aos pais. Nos casos em que a IA sinalizar um caso de risco, mas a conversa não for explícita sobre as intenções reais do jovem, o alerta será enviado mesmo assim. A Meta deixou claro que há casos em que a notificação aos pais pode não ser um motivo real de preocupação, mas optou pela cautela.

Em comunicado, Larry Magid, CEO e cofundador da ConnectSafely (ONG voltada para educação de usuários no ambiente online), defendeu o direito à privacidade dos adolescentes, mas que os pais precisam ser informados em casos em que houver risco para os jovens. Ele defendeu a decisão da Meta.

Recurso da Meta chegará ao Brasil este ano

Os alertas já estão disponíveis para pais que usam o recurso de supervisão parental no Instagram nos Estados Unidos, Reino Unido, Austrália e Canadá.

A ferramenta estará disponível em outros lugares do mundo, incluindo o Brasil, até o final deste ano.

Além do aviso aos pais, a Meta está trabalhando em um recurso que permite conectar o Meta AI a serviços de emergência, no caso de conversas que sugiram risco de suicídio iminente por parte do usuário. A empresa revelou que, só no ano passado, foram mais de 19 mil encaminhamentos deste tipo no mundo todo.