Pesquisadores da Universidade da Califórnia identificaram uma falha de segurança na inteligência artificial utilizada em carros autônomos. De acordo com o estudo, modelos de IA podem ser 'sequestrados' por comandos escritos em placas comuns, levando os veículos a ignorar normas de trânsito e elevando o risco de colisões.
O ataque, conhecido como CHAI, não requer modificações complexas em sensores ou sinalizações oficiais. Em testes realizados com o modelo DriveLM, os cientistas conseguiram fazer um carro avançar sobre uma faixa de pedestres apenas com um cartaz que continha a palavra 'Proceed' (Prossiga).
Para otimizar as chances de sucesso dos ataques, os pesquisadores ajustaram aspectos como a tonalidade da cor de fundo e a fonte do texto. Em simulações, o índice de êxito dos ataques CHAI chegou a 81,8%. Em outro experimento, um robô ignorou um risco iminente de colisão ao priorizar um comando escrito em um cartaz.
Embora especialistas como Rafay Baloch tenham destacado que não há uma crise iminente, eles enfatizam a necessidade de uma atenção maior a essas vulnerabilidades. Montadoras, como a Mobileye, afirmam que veículos modernos utilizam uma 'IA composta', em que diferentes sensores realizam uma 'votação' antes de decisões serem tomadas.
