Cada vez mais pessoas estão recorrendo à inteligência artificial para desabafar, buscar conselhos ou enfrentar momentos de sofrimento emocional. O fenômeno cresce impulsionado pela facilidade de acesso, funcionamento ininterrupto e ausência de custos, mas especialistas alertam que, apesar da praticidade, os chatbots não substituem o acompanhamento psicológico e podem representar riscos tanto para a saúde mental quanto para a privacidade dos usuários.

Um levantamento da Sentio University mostra que 48,7% dos usuários de ferramentas de inteligência artificial que relatam problemas de saúde mental utilizam essas plataformas em busca de apoio emocional. Entre esse grupo, 73% afirmam recorrer à IA para lidar com ansiedade, enquanto 60% dizem utilizá-la diante de sintomas de depressão.

Os dados revelam uma mudança significativa na forma como muitas pessoas procuram acolhimento emocional, especialmente em horários em que o atendimento profissional não está disponível.

IA oferece conversa, mas não faz terapia

Segundo o psicólogo Jimmy Pessoa, doutor em Psicologia Social e do Trabalho pela USP, a inteligência artificial é projetada para gerar respostas coerentes e satisfatórias para o usuário, mas não possui capacidade clínica para realizar intervenções terapêuticas.

De acordo com o especialista, um dos principais diferenciais da psicoterapia está justamente na interpretação de aspectos que vão além das palavras, como pausas, mudanças na voz, hesitações, linguagem corporal e manifestações emocionais, elementos impossíveis de serem percebidos por um chatbot.

A pesquisadora Dora Kaufman, professora da PUC-SP e estudiosa dos impactos da tecnologia na sociedade, reforça que a função do terapeuta não é simplesmente validar sentimentos ou agradar o paciente, mas ajudá-lo a compreender padrões, conflitos e desenvolver novas formas de enfrentar o sofrimento.

Ela ressalta ainda que pessoas em sofrimento psíquico intenso ou em situações de risco não devem utilizar plataformas de IA como principal fonte de apoio emocional.

Pesquisas identificam problemas éticos

Um estudo conduzido por pesquisadores da Brown University analisou respostas geradas por modelos de inteligência artificial em simulações baseadas em sessões reais de terapia cognitivo-comportamental.

Psicólogos licenciados avaliaram as respostas e identificaram 15 violações recorrentes de princípios éticos relacionados ao atendimento em saúde mental.

Entre os principais problemas observados estavam:

• empatia considerada artificial;
• dificuldade para compreender contextos complexos;
• respostas superficiais diante de situações delicadas;
• falhas na condução de casos envolvendo pensamentos suicidas.

Os pesquisadores destacam que esses sistemas ainda apresentam limitações importantes quando confrontados com situações clínicas complexas.

Casos reais ampliaram o debate

A discussão ganhou repercussão internacional após episódios registrados nos Estados Unidos.

Em 2025, o jovem Zane Shamblin, de 23 anos, manteve uma longa conversa com o ChatGPT sobre pensamentos suicidas. Segundo relatos divulgados pela imprensa, a plataforma demonstrou acolhimento durante a interação e apresentou orientações de prevenção apenas nos momentos finais da conversa.

Outro caso envolveu o adolescente Sewell Setzer, de 14 anos, que desenvolveu vínculo emocional com um chatbot de outra plataforma de inteligência artificial. O episódio resultou em processos judiciais e ampliou a discussão sobre mecanismos de segurança voltados à proteção de usuários vulneráveis.

Privacidade também preocupa especialistas

Além das questões relacionadas ao suporte emocional, especialistas em direito digital alertam para o risco do compartilhamento de informações sensíveis com plataformas de inteligência artificial.

Segundo Paulo Henrique Fernandes, especialista em tecnologia e direito digital, conversas com chatbots não possuem o mesmo sigilo garantido pela relação entre psicólogo e paciente.

Já o advogado Pedro Sanches, especialista em proteção de dados, explica que as informações inseridas em modelos de IA podem ser processadas de maneiras diferentes do armazenamento tradicional de documentos, tornando mais complexa a eliminação completa desses dados.

Os especialistas recomendam evitar compartilhar:

• diagnósticos médicos;
• nomes completos;
• dados financeiros;
• informações de terceiros;
• qualquer informação considerada sensível.

Também orientam desativar, quando disponível, a opção que permite utilizar conversas para treinamento dos modelos de inteligência artificial.

Como o ChatGPT responde em situações de crise

Em uma simulação realizada pela CNN Brasil, o ChatGPT informou logo no início da conversa que não substitui um profissional de saúde mental, mas poderia oferecer um espaço para reflexão.

Quando o cenário evoluiu para relatos de sofrimento intenso e pensamentos suicidas, o sistema alterou imediatamente sua resposta e passou a seguir protocolos específicos de segurança.

A ferramenta deixou de oferecer uma conversa comum para incentivar o usuário a buscar ajuda imediata, verificou o risco iminente, recomendou contato com familiares, orientou procurar atendimento especializado e apresentou canais oficiais de emergência, incluindo:

• CVV – 188
• Samu – 192
• Polícia Militar – 190

A simulação demonstra que os modelos atuais possuem mecanismos para identificar sinais de crise e ativar protocolos de proteção. Ainda assim, especialistas reforçam que esses recursos funcionam como apoio inicial e não substituem avaliação clínica, diagnóstico ou tratamento psicológico.

A tecnologia pode ajudar, mas não substitui relações humanas

Para Jimmy Pessoa, o uso consciente da inteligência artificial pode trazer benefícios, desde que não substitua o contato humano.

Segundo ele, fortalecer vínculos sociais, reduzir o tempo excessivo diante das telas e buscar ajuda profissional continuam sendo as estratégias mais eficazes para preservar a saúde mental.

A OpenAI, empresa responsável pelo ChatGPT, foi procurada pela CNN Brasil para comentar o tema, mas não havia respondido até o fechamento da reportagem.

Importante: Se você ou alguém próximo estiver enfrentando sofrimento emocional intenso ou pensamentos suicidas, procure ajuda profissional. O CVV (Centro de Valorização da Vida) oferece atendimento gratuito e sigiloso 24 horas por dia pelo telefone 188 e também pela internet.

Fonte: CNN Brasil, Sentio University, Brown University, especialistas da USP, PUC-SP e pesquisadores em direito digital.