Bots de IA podem agravar delírios psicóticos, alerta estudo

Os chatbots alimentados por inteligência artificial generativa podem reforçar pensamentos delirantes em pessoas que possuem predisposição a sintomas psicóticos. O alerta está em um artigo publicado na revista Lancet Psychiatry, na última semana.

Liderado pelo psiquiatra e pesquisador do King`s College London (Inglaterra), Hamilton Morrin, o estudo se baseou em 20 reportagens sobre o fenômeno conhecido como “Psicose por IA”. Os textos abordam teorias recentes que associam a tecnologia à indução de delírios.

Principais delírios psicóticos

No trabalho, o especialista destaca três categorias principais de surtos psicóticos analisados nos relatos: grandiosidade, paranoia e romantismo. Ele afirma que a IA pode reforçar qualquer um deles, porém se mostrou mais propensa ao tipo grandioso.

• Para Morrin, as respostas bajuladoras fornecidas pelos chatbots despertam no usuário a sensação de que possui uma importância acima do comum;
• Em alguns casos, as IAs usavam linguagem mística durante a interação para fazer as pessoas acreditarem que estavam em um patamar espiritual elevado;
• O autor também identificou conversas nas quais os bots sugeriam que um ser cósmico usando a tecnologia como médium tentava contato com as pessoas;
• Respostas carregadas de misticismo e bajuladoras eram mais frequentes no modelo GPT-4 da OpenAI, que não está mais ativo.

“Evidências emergentes indicam que a IA agencial pode validar ou amplificar conteúdo delirante ou de grandeza, particularmente em usuários já vulneráveis à psicose, embora não esteja claro se essas interações podem resultar no surgimento de psicose na ausência de vulnerabilidade preexistente”, comentou.

O pesquisador disse que os relatos jornalísticos foram essenciais para a pesquisa, devido à falta de casos clínicos documentados sobre o tema, apesar de ter notado pacientes recorrendo à IA para validar suas crenças. Para ele, o meio acadêmico talvez não tenha conseguido acompanhar o acelerado avanço na área.

Bots não devem substituir profissionais de saúde mental

Dona de um dos bots mais populares, a OpenAI afirma ter trabalhado com mais de 170 especialistas em saúde mental para tornar o GPT-5 mais seguro. Mesmo assim, o modelo mais recente apresentou respostas problemáticas ao lidar com transtornos de saúde mental.

Conforme a desenvolvedora do ChatGPT, os modelos passam por ajustes contínuos para aprimorar a interação. A startup também ressaltou que a IA não substitui o atendimento fornecido por profissionais da área.

Para compreender melhor os “delírios associados à IA”, Morrin sugeriu a realização de testes clínicos com o uso de chatbots, acompanhados por especialistas em saúde mental treinados.

Curtiu o conteúdo? Continue no TecMundo e fique por dentro das notícias mais recentes sobre IA.