Notícia “Apague as luzes”: IA de carro elétrico entende comando errado e provoca colisão em estrada

O avanço da inteligência artificial nos veículos modernos encontrou um limite perigoso na China: uma falha de software no Lynk & Co Z20 permitiu que o sistema de assistência por voz desligasse os faróis externos com o carro elétrico em movimento, resultando em uma colisão contra o canteiro central de uma rodovia. O caso, registrado por câmeras de bordo, expõe os riscos de integrar comandos de voz a funções vitais de segurança sem camadas de proteção física.

VEJA TAMBÉM:

Erro de interpretação e a colisão do Lynk & Co Z20

lynk co z206
Lynk & Co Z20 é SUV elétrico da marca derivada da Volvo (e pertencente ao grupo Geely)

O incidente ocorreu quando o motorista tentou apagar as luzes de leitura internas utilizando linguagem verbal. No entanto, a inteligência artificial do assistente de voz do veículo interpretou o pedido de forma genérica e desativou toda a iluminação externa. Ao ficar imerso na escuridão total em alta velocidade, o condutor perdeu a referência da pista e bateu. Em uma tentativa de reativar os faróis por voz durante a emergência, o sistema respondeu que a operação não poderia ser concluída naquele momento.

A resposta da montadora, controlada pelo grupo Geely, foi imediata após a repercussão do vídeo nas redes sociais chinesas. O vice-gerente de vendas da empresa, Chen Siyuan, confirmou o lançamento de uma atualização de emergência via internet para corrigir a lógica do software. A nova versão impede que os faróis sejam desativados por comando de voz enquanto o veículo estiver em uma marcha de condução.

Riscos da integração total em sistemas críticos


O episódio levanta um debate sobre a arquitetura de segurança dos carros conectados. Testes realizados por proprietários de outras marcas, como Zeekr e Deepal, revelaram vulnerabilidades semelhantes, onde comandos de voz conseguiram burlar travas de segurança. Especialistas defendem que funções essenciais, como iluminação e freios, devem ser isoladas de interfaces de software passíveis de erros de contexto, garantindo que o controle físico sempre prevaleça sobre a automação inteligente.

Continue lendo...
 
Top