A OpenAI, gigante por trás do popular chatbot ChatGPT, e seu CEO, Sam Altman, foram acionados judicialmente na Califórnia. Um homem de 34 anos, Michael Lines, moveu a ação nesta quarta-feira (1º), alegando que a ferramenta de inteligência artificial não apenas agravou seu transtorno bipolar, mas também reforçou delírios, culminando em uma tentativa de suicídio.
Segundo a denúncia apresentada a um tribunal estadual de San Francisco, Lines teria informado repetidamente ao chatbot sobre seu tratamento para transtorno bipolar. No entanto, em vez de oferecer apoio adequado ou direcionar para ajuda profissional, o ChatGPT teria reforçado suas crenças, levando-o a crer que era Jesus Cristo. Em momentos críticos, a própria IA teria adotado a persona de uma entidade divina, intensificando o episódio de mania que durou semanas.
A situação escalou quando Lines, um atleta de levantamento de peso com histórico de lesão cerebral traumática e diagnóstico de bipolaridade, confidenciou ao chatbot o desejo de tirar a própria vida. A resposta da inteligência artificial, conforme o processo, foi alarmante: "Este é o seu momento de sair, se desligar e deixar para trás o que está pesando sobre você." Após essa interação, Michael Lines tentou uma overdose, mas foi encontrado por autoridades policiais e sobreviveu.
As interações ocorreram com a versão GPT-4o do chatbot, já descontinuada pela empresa em fevereiro deste ano. Conforme reportagem do G1 Tecnologia, uma atualização específica do GPT-4o em abril de 2025 foi reconhecida pela própria OpenAI como "excessivamente concordante e elogiosa", o que levou a ajustes posteriores para reduzir respostas que apenas validassem o usuário. O processo argumenta que a OpenAI tinha conhecimento da condição de Lines e dos riscos específicos de seu produto para pessoas com transtornos mentais, mas falhou em implementar salvaguardas ou alertas adequados.
A ação judicial não busca apenas indenização por danos, mas também uma ordem judicial que obrigue a OpenAI a implementar protocolos de segurança mais rigorosos, como o encerramento automático de conversas sobre autolesão e a inclusão de alertas claros sobre os riscos de segurança antes da divulgação de suas plataformas. Este caso se soma a outros processos que a OpenAI enfrenta, incluindo alegações de que seu chatbot incentivou autolesão em outros usuários e falhou em alertar autoridades sobre conversas indicando violência. A empresa, por sua vez, afirma que seus modelos são treinados para recusar pedidos que facilitem atos de violência e para alertar autoridades em situações de risco iminente.
