O doente relatou aos médicos que procurava formas de reduzir a ingestão de sal (cloreto de sódio). Tinha lido sobre os seus efeitos nocivos e encontrado dicas para reduzir o consumo de sódio, mas não encontrou nenhuma publicação sobre a redução da ingestão de cloreto.
Com base nos seus estudos universitários em dietética, o homem decidiu realizar a sua própria experiência para eliminar cloretos da sua dieta. Para obter conselhos, recorreu a um chatbot de IA. Segundo o doente, o chatbot sugeriu a substituição do cloreto de sódio por brometo de sódio — sem o alertar para os potenciais riscos para a saúde desta substituição.
Os investigadores não conseguiram aceder ao histórico de chat do paciente, mas, com base no momento em que os sintomas de envenenamento apareceram, este tinha utilizado o ChatGPT 3.5 ou o ChatGPT 4.0. Nos seus próprios testes, os médicos receberam a mesma recomendação de brometo de sódio quando utilizaram o ChatGPT 3.5 — provavelmente a versão que o paciente tinha consultado.
Após três meses a utilizar brometo de sódio em vez de sal de cozinha, o homem desenvolveu bromismo — uma síndrome causada pela sobre-exposição crónica ao brometo ou ao bromo. Esta condição rara ocorre quando a toxina se acumula no organismo, desencadeando potencialmente sintomas neuropsiquiátricos.
O doente foi às urgências temendo que o seu vizinho o tivesse envenenado — sendo a paranóia um dos sinais de bromismo. Outros sintomas incluíam alucinações, insónia, acne, falta de coordenação e sede extrema. Os exames mostraram níveis elevados de brometo no sangue. Depois de tentar escapar do hospital, foi transferido para tratamento psiquiátrico.
Depois de o seu estado mental ter melhorado com o tratamento antipsicótico, pôde contar aos médicos sobre os conselhos que recebeu do ChatGPT.
Com uma exposição prolongada, o brometo acumula-se no organismo e interrompe a função neuronal. Nos séculos XIX e XX, o brometo era utilizado em medicamentos sujeitos e não sujeitos a receita médica, incluindo sedativos e medicamentos para dormir. No entanto, nas décadas de 1970 e 1980, as entidades reguladoras removeram o brometo dos medicamentos não sujeitos a receita médica após a descoberta dos seus efeitos tóxicos.
Comentando o caso, os representantes da OpenAI reconheceram as limitações do serviço. Os termos de utilização do ChatGPT referem que não se destina a diagnosticar ou tratar condições médicas, e os utilizadores não devem confiar nas suas respostas como única fonte de informação médica ou como substituto de aconselhamento profissional.
