Um estudo relatado pelo MIT News AI mostrou diferenças no uso de assistência de diagnóstico baseada em grandes modelos de linguagem. Leigos confiaram nas sugestões do sistema mesmo quando ele estava errado, enquanto clínicos identificaram os erros da IA.
Isso é importante porque o mesmo sistema de suporte pode produzir efeitos diferentes dependendo da experiência do usuário. Para a medicina, isso destaca a importância de verificar as recomendações, em vez de simplesmente confiar na resposta automatizada.
A descrição disponível não especifica a metodologia do estudo, o número de participantes, o modelo específico ou os tipos de tarefas de diagnóstico. Portanto, as conclusões devem ser entendidas como um relato de um padrão observado, e não como uma avaliação de todos os sistemas de IA médica.
comentário editorial
Por que importa
Uma consequência provável é que os sistemas médicos com IA exigirão cenários nos quais o usuário seja obrigado a verificar as conclusões, especialmente na falta de formação clínica. O próximo sinal observável será o surgimento de dados completos do estudo ou trabalhos independentes comparando grupos de usuários. Uma incerteza significativa está relacionada à ausência, no pacote, da metodologia, da amostra e de detalhes sobre os erros.