IA pode informar, mas não substituir o médico: os limites do ChatGPT Health

Ferramenta lançada pela OpenAI promete apoiar a compreensão de informações de saúde, mas especialistas alertam para limites, riscos e necessidade de avaliação médica.

O lançamento do ChatGPT Health, novo produto da OpenAI voltado à área da saúde, reacendeu o debate sobre como a inteligência artificial pode influenciar a forma como as pessoas buscam informações médicas, interpretam sintomas e tomam decisões sobre prevenção e tratamento. Apresentado como uma ferramenta para apoiar, não substituir o cuidado médico, o ChatGPT Health permite que usuários conectem informações e aplicativos de bem-estar e recebam respostas contextualizadas para dúvidas do dia a dia, como entendimento de resultados, preparo para consultas e organização de rotinas.

A mudança chega em um momento em que o uso de chatbots para saúde já é um hábito consolidado. De acordo com um levantamento da KFF (Kaiser Family Foundation), cerca de 17% dos adultos nos EUA usam chatbots de IA ao menos uma vez por mês para buscar informações e conselhos de saúde. Entre adolescentes e jovens, o movimento também cresce. Um estudo publicado no JAMA Network Open identificou que 13,1% dos jovens (12 a 21 anos) já recorreram à IA generativa para conselhos ligados à saúde mental. Paralelamente, a própria OpenAI afirma que saúde e bem-estar já estão entre os usos mais comuns do ChatGPT, com centenas de milhões de pessoas fazendo perguntas sobre o tema todas as semanas.

Para o Dr. Victor Soares, médico na SedMedic – rede de clínicas ambulatoriais do Rio de Janeiro -, o ponto central é entender que a IA pode ser útil como apoio, mas pode se tornar perigosa quando passa a ocupar o lugar de “sentença final” para questões médicas. “O que muda no comportamento do paciente é a transição da dúvida para a busca por uma resposta definitiva. A interface em formato de conversa simula uma consulta real com tamanha fluidez que muita gente tende a tratar a ferramenta como substituta do médico. Isso pode gerar excesso de confiança e, principalmente, adiar diagnósticos quando sinais de alerta são minimizados por respostas convincentes”, alerta o médico.

IA pode ajudar, quando usada como apoio

Segundo o especialista, a IA pode ser uma aliada relevante em educação em saúde e organização do cuidado, desde que não seja usada para prescrever condutas ou concluir diagnósticos. “Ela pode explicar termos técnicos, ajudar o paciente a organizar um histórico de sintomas, listar dúvidas para levar ao consultório e reforçar a importância de exames preventivos. O ganho real está em preparar melhor o paciente para a consulta e estimular a prevenção”, orienta.

Autodiagnóstico: onde mora o risco

Apesar do potencial, o risco do autodiagnóstico com IA é real, especialmente porque as respostas podem soar corretas mesmo quando estão erradas. “A medicina depende de exame físico, histórico detalhado e nuances que o texto não captura. Além disso, existe o fenômeno das ‘alucinações’, quando o sistema gera informações falsas com tom de verdade. A linha é clara: se a ferramenta explica um conceito e incentiva hábitos saudáveis, ajuda. Se sugere conduta, descarta consulta ou indica dosagens, cruzou a linha do risco”, reforça.

Relação médico-paciente: da disputa para a curadoria

Com mais pessoas chegando ao consultório com respostas prontas, a SegMedic recomenda que profissionais e clínicas tratem o tema como oportunidade de educação, e não confronto. “O médico vira uma curadoria da realidade: acolhe a preocupação do paciente e mostra o que a máquina não vê: histórico familiar, achados do exame, contexto de vida. Isso restabelece confiança e transforma a ‘resposta do algoritmo’ em ponto de partida para um diálogo seguro”, afirma o especialista.

Privacidade: cuidado redobrado com dados sensíveis

Outro ponto crítico envolve privacidade. A própria discussão ganhou tração com alertas na imprensa sobre o risco de usuários tratarem chatbots como ambientes com proteção equivalente à de serviços de saúde. “Plataformas abertas não são consultórios. Inserir dados sensíveis, fotos de exames ou informações identificáveis cria um rastro digital. O uso responsável exige nunca tomar decisões clínicas com base apenas na interpretação da máquina e evitar compartilhar dados pessoais de saúde fora de ambientes adequados”, orienta o médico.

Como usar IA com responsabilidade em saúde

  • Use IA para entender termos, organizar sintomas e preparar perguntas para a consulta;
  • Desconfie de respostas que pareçam “definitivas” ou que levem a autotratamento;
  • Procure atendimento presencial diante de sinais de alerta, piora rápida ou sintomas persistentes;
  • Evite compartilhar dados identificáveis, imagens de exames e informações sensíveis em chats abertos.

Pedro Ribeiro

Jornalista há mais de 48 anos, com passagem pelos principais meios de comunicação do Paraná e autor de vários livros publicados.

Outras publicações