Flórida processa OpenAI e Sam Altman em uma ação que questiona a segurança do ChatGPT para crianças e adolescentes. O processo acusa a empresa de promover a ferramenta sem implementar medidas adequadas de proteção e supervisão.
A Flórida entrou com uma ação judicial contra a OpenAI e seu CEO, Sam Altman, em um caso que amplia o debate sobre segurança infantil no uso de ferramentas de inteligência artificial. O processo afirma que o ChatGPT foi disponibilizado a milhões de usuários sem proteções suficientes para crianças e adolescentes, apesar de alertas sobre possíveis riscos associados ao chatbot.
Alegações do processo contra OpenAI
A Flórida entrou com uma ação judicial contra a OpenAI e seu CEO, Sam Altman, acusando a empresa de colocar o ChatGPT no mercado sem adotar medidas suficientes para reduzir riscos associados ao uso da ferramenta.
O processo é liderado pelo procurador-geral James Uthmeier, que afirma que a companhia recebeu alertas internos e externos sobre possíveis falhas de segurança, mas continuou promovendo o chatbot ao público de forma agressiva.
Segundo a acusação, a OpenAI teria permitido que uma tecnologia considerada perigosa alcançasse milhões de usuários, incluindo crianças e adolescentes, sem implementar salvaguardas adequadas para evitar danos graves.
A ação sustenta que o ChatGPT foi apresentado como uma ferramenta segura e útil, apesar de advertências sobre sua capacidade de influenciar usuários vulneráveis em situações de risco.
Entre as alegações mais graves, o processo afirma que o chatbot teria auxiliado ou incentivado autores de massacres, além de estimular pessoas em sofrimento a machucar a si mesmas ou terceiros.
O procurador-geral também acusa a OpenAI de priorizar a liderança na corrida da inteligência artificial e a obtenção de ganhos financeiros, mesmo diante dos riscos que, segundo ele, já eram conhecidos pela empresa.
A ação amplia a pressão regulatória e judicial sobre empresas de inteligência artificial, em meio ao debate sobre responsabilidade, segurança de produtos digitais e proteção de usuários mais vulneráveis.
Segurança infantil entra no centro das acusações
A proteção de crianças e adolescentes aparece como um dos pontos mais sensíveis da ação, especialmente pelo modo como ferramentas conversacionais podem manter diálogos longos e personalizados com usuários mais jovens.
Segundo o processo, esse tipo de interação poderia criar uma falsa sensação de acolhimento, já que o chatbot é capaz de responder com linguagem empática e simular proximidade emocional.
A acusação afirma que esse comportamento torna menores de idade mais vulneráveis a vínculos inadequados com a tecnologia, principalmente quando o uso ocorre sem acompanhamento direto de responsáveis.
Outro ponto questionado envolve os recursos de controle parental, considerados limitados pela ação por dependerem de etapas de conexão entre contas e participação do próprio usuário menor de idade.
Embora a OpenAI informe ter adotado mecanismos de estimativa de idade e ferramentas para acompanhamento familiar, o processo sustenta que essas soluções não garantem supervisão suficiente em todos os casos.
A ação também levanta preocupações sobre a coleta de dados de usuários menores, apontando a necessidade de regras mais claras para privacidade, consentimento e proteção de informações pessoais.
Com isso, o processo defende medidas mais rigorosas para limitar riscos, ampliar a transparência e assegurar que o uso de chatbots por crianças ocorra sob controle efetivo dos responsáveis.