IBM Watson deu conselhos inadequados a pacientes com câncer

No ano passado, um estudo conduzido pela IBM causou alvoroço na conferência da Sociedade Americana de Oncologia Clínica. Este estudo mostrou que o Watson fornece vários tratamentos para certos tipos de câncer. Infelizmente, apenas alguns meses após essa demonstração, os primeiros obstáculos apareceram, revelando finalmente que Watson não é tão infalível assim.

Um relatório escrito por Stat e alguns especialistas médicos que colaboraram com Watson revelou os bastidores.

Foi então que o entusiasmo inicial deu lugar ao ceticismo. Segundo os pesquisadores, a IA prescreveu repetidamente tratamentos inadequados para o câncer.

O relatório aponta um dedo acusador para os médicos do Memorial Sloan Kettering (MSK) que estavam encarregados das configurações de inteligência artificial e, claro, para os engenheiros da IBM.

Um começo mais do que promissor

Durante seus primeiros testes, em junho de 2017, vários estudos elogiaram os méritos da saúde do Watson. A Asco, organização americana que reúne vários oncologistas, por exemplo, apresentou resultados realmente animadores. Segundo esta organização, as recomendações da IA ​​correspondiam a alguns pormenores com as recomendações dos médicos.

Assim, Watson teria encontrado o diagnóstico correto em 81% no caso de câncer de cólon, 92,7% para câncer de reto e o resultado subiu para 96,4% para câncer de pulmão. No entanto, o desempenho do Watson só foi promissor durante seus primeiros usos.

Recomendações potencialmente fatais

Relatórios escritos por médicos especialistas mostraram vários exemplos de recomendações ou mesmo tratamentos que são realmente perigosos para os pacientes. Um dos casos mais concretos seria o de um paciente de 65 anos com forte sangramento. O tratamento prescrito por Watson teria agravado ainda mais a situação, causando uma hemorragia que poderia ser fatal para o paciente.

Diz-se que essa falha se deve ao treinamento da IA ​​que consistia em processar arquivos de pacientes fictícios e não reais. Esta informação foi revelada por um ex-engenheiro da IBM, Andrew Norden. De qualquer forma, este caso continua sendo um erro humano porque o Watson é feito pelo homem e a máquina sempre terá uma capacidade limitada.

Se Watson é perfectível, permanece o fato de que, independentemente do campo, a IA nunca será responsável por seus “erros”.