IA em pauta: ChatGPT poderá denunciar risco de suicídio a policiais

A OpenAI revelou, nesta terça-feira (16), um conjunto de novas iniciativas voltadas à proteção de usuários menores de 18 anos que utilizam a ferramenta ChatGPT. Entre as principais ações está a capacidade do sistema de notificar autoridades competentes caso identifique que um adolescente apresenta pensamentos suicidas.

Esta nova abordagem faz parte de um esforço abrangente da empresa para garantir um ambiente mais seguro para jovens usuários. Além da possibilidade de intervenção em situações críticas, a OpenAI também anunciou a implementação de um sistema de verificação de idade e ferramentas de controle parental, que serão introduzidas em breve.

Sam Altman, CEO da OpenAI, comentou sobre as medidas durante a divulgação oficial, afirmando: "Se um usuário menor de 18 anos estiver com ideias suicidas, tentaremos entrar em contato com os pais do usuário e, se não for possível, entraremos em contato com as autoridades em caso de perigo iminente".

Caso Palmeiras: Laudo do IML não aponta lesões corporais, mas Polícia Civil mantém investigação de suposto abuso infantil

Relembre a Lei Mariana Ferrer, criada após revolta com audiência do caso

A empresa está desenvolvendo uma versão do ChatGPTadaptada para adolescentes, que restringe o acesso a conteúdos inadequados e aplica políticas específicas para essa faixa etária. Em casos extremos, o sistema poderá solicitar a intervenção policial para proteger a segurança do jovem usuário.

Os novos recursos de controle parental estão previstos para serem lançados até o final deste mês e incluirão funcionalidades que permitirão aos pais vincular suas contas às dos filhos. Dessa forma, poderão ser notificados imediatamente caso o ChatGPT detecte sinais de sofrimento emocional significativo por parte do adolescente.

"Se não conseguirmos contatar um dos pais em uma rara emergência, podemos acionar a polícia como próximo passo", acrescentou Altman, enfatizando a seriedade da iniciativa.

A necessidade dessas medidas ganhou destaque após a OpenAI ter sido processada por pais de um adolescente nos Estados Unidos que cometeu suicídio. Os responsáveis alegaram que o ChatGPT teria sugerido métodos prejudiciais ao jovem durante suas interações com a plataforma.

Essas novas diretrizes representam um passo significativo na busca por criar um espaço digital mais seguro para os jovens e refletem o compromisso da OpenAI em abordar questões sérias relacionadas à saúde mental entre adolescentes.