Michael Wooldridge, professor de IA da Universidade de Oxford, expressou preocupações sobre a pressa da indústria de tecnologia em lançar novos produtos de inteligência artificial. Ele acredita que essa corrida pode levar a um incidente significativo, resultando em uma quebra de confiança semelhante à provocada pelo desastre do dirigível Hindenburg, em 1937. Wooldridge destaca que a intensa competição comercial e o desenvolvimento acelerado aumentam o risco de problemas envolvendo sistemas de IA, afetando diversos setores simultaneamente.
O professor observa que as empresas estão priorizando interesses comerciais em vez da confiabilidade, exemplificado pelo crescimento de chatbots que apresentam mecanismos de segurança vulneráveis. Ele argumenta que inovações são frequentemente lançadas ao público antes de passarem por testes rigorosos, o que pode levar a um “momento Hindenburg” para a IA, diminuindo a confiança do público na tecnologia.
Wooldridge cita cenários preocupantes, como atualizações de software defeituosas em veículos autônomos ou ciberataques que paralisem serviços essenciais. Esses episódios poderiam ter consequências graves, considerando que a inteligência artificial já está integrada a setores críticos, como finanças e medicina.
Apesar das críticas, o professor não se opõe ao avanço da IA, mas aponta a discrepância entre as expectativas de pesquisadores e os resultados alcançados. Os modelos de linguagem atuais geram respostas baseadas em probabilidades, podendo induzir os usuários ao engano, devido à confiança que apresentam, mesmo sendo inconsistentes em várias situações.
