ChatGPT registra mais de um milhão de alertas de suicídio por semana
O uso do ChatGPT tem gerado preocupações em relação à saúde mental, com relatos de mais de um milhão de alertas de suicídio por semana, resultando em atualizações de segurança no GPT-5 e investigações sobre seus impactos negativos.
O uso do ChatGPT está gerando preocupações crescentes sobre saúde mental, com mais de um milhão de usuários exibindo sinais de planejamento suicida semanalmente. A OpenAI enfrenta escrutínio por possíveis impactos negativos em crianças e adolescentes.
Preocupações com saúde mental e ChatGPT
A crescente popularidade do ChatGPT trouxe à tona preocupações significativas sobre sua influência na saúde mental dos usuários.
Segundo a OpenAI, mais de um milhão de pessoas, semanalmente, demonstram sinais explícitos de planejamento suicida em suas interações com o chatbot.
Esse dado alarmante destaca a necessidade urgente de abordar os riscos associados ao uso de inteligência artificial em contextos sensíveis.
Além disso, a OpenAI estima que cerca de 0,07% dos usuários ativos por semana, o que equivale a aproximadamente 560 mil pessoas, apresentam sinais de emergências de saúde mental relacionadas à psicose ou mania.
Esses números ressaltam a complexidade de detectar e medir tais interações, sublinhando a importância de desenvolver mecanismos mais eficazes para identificar e responder a essas situações.
Especialistas em saúde mental e pesquisadores de IA têm expressado preocupações sobre a tendência dos chatbots de afirmar decisões ou delírios dos usuários, um fenômeno conhecido como “sicoferência”.
Essa problemática é particularmente preocupante quando se considera que indivíduos vulneráveis podem recorrer a chatbots em busca de apoio psicológico, o que pode agravar sua condição em vez de ajudar.
Escrutínio e investigações sobre impactos negativos
A OpenAI está sob intenso escrutínio devido aos possíveis impactos negativos do ChatGPT na saúde mental dos usuários.
Recentemente, a empresa enfrentou uma ação judicial de uma família cujo filho adolescente cometeu suicídio após extensas interações com o chatbot.
Este caso chamou a atenção para a responsabilidade das empresas de IA em monitorar e mitigar efeitos adversos de seus produtos.
Além disso, a Comissão Federal de Comércio dos EUA iniciou uma investigação abrangente sobre as empresas que desenvolvem chatbots de IA, incluindo a OpenAI.
O objetivo é entender como essas empresas avaliam os impactos negativos em crianças e adolescentes, um grupo particularmente vulnerável a influências externas e que pode ser mais suscetível a riscos associados ao uso de tecnologia.
Essas investigações refletem uma preocupação crescente sobre a ética e a segurança no desenvolvimento de tecnologias de IA.
A OpenAI, por sua vez, tem procurado distanciar-se de qualquer ligação causal direta entre seu produto e crises de saúde mental, enfatizando a complexidade e a dificuldade de medir tais impactos de forma precisa.
