Falha em IA da Microsoft “cria” dois países e acende alerta sobre confiança em respostas automáticas

Uma resposta equivocada gerada por uma ferramenta de inteligência artificial da Microsoft listou dois países inexistentes, reacendendo o debate sobre alucinações em modelos generativos e a confiabilidade de respostas automáticas.

Contexto: onde, quando, quem

O caso ocorreu em um recurso de IA voltado a responder perguntas gerais. Ao ser questionado sobre geografia, o sistema apresentou uma lista que incluía duas “nações” que não existem, reconhecidas em seguida como erro pela empresa, que afirmou estar investigando o comportamento do modelo.

Dados e evolução

De acordo com a empresa, o incidente foi causado por uma combinação de inferências estatísticas e fontes inconsistentes, fenômeno conhecido como alucinação. Equipes técnicas aplicaram ajustes rápidos, reforçando filtros e verificações, enquanto avaliam mudanças adicionais no processo de geração e checagem de dados.

Impactos

O episódio evidencia o risco de confiar cegamente em respostas de IA em temas sensíveis, como educação, serviços públicos e negócios. Para usuários, a recomendação é manter a validação cruzada de informações; para organizações, ampliar camadas de auditoria, telemetria e políticas de segurança antes de expor sistemas generativos a milhões de pessoas.

Próximos passos

A Microsoft informou que continuará monitorando o recurso, com atualizações graduais para reduzir alucinações e melhorar a explicabilidade do modelo. Especialistas esperam mais transparência sobre métricas de erro e processos de correção.