Tesla Autopilot hack levanta novas preocupações sobre carros autônomos

Tesla Autopilot hack raises new self-driving car concerns

O piloto automático da Tesla pode ser enganado por marcas desonestas na estrada, descobriram os pesquisadores de segurança, embora o fabricante do EV insista que não é de se preocupar se a tecnologia de assistência ao motorista for usada corretamente. Embora se concentre nos sistemas da Tesla, a investigação levanta outras questões sobre a resiliência dos sistemas que formarão a base de carros verdadeiramente autônomos em geral, quando esses veículos estiverem disponíveis.

É o trabalho manual do Tencent Keen Security Lab, que já havia demonstrado uma exploração – desde que corrigida pela Tesla – pela qual o Autopilot poderia ser comprometido remotamente. Em um novo projeto, ele explorou maneiras pelas quais os sistemas de visão computacional dos carros poderiam ser enganados, com vários graus de risco como resultado.

Em uma exploração, os limpadores de pára-brisa automáticos de um Tesla Model S 75 executando a versão 2.5 do hardware do Autopilot (e o software 2018.6.1) podem ser persuadidos a serem ativados usando a chamada imagem “adversária”. Tesla usa um modelo de rede neural para acionar os limpadores, identificando gotas de chuva acumuladas no vidro. Ao construir uma imagem especial, projetada para confundir os aprendizados anteriores das redes neurais, esse sistema pode ser confundido.

Para ser justo, e como a própria Tesla aponta, algumas das explorações podem existir na teoria, mas apresentam pouco em termos de risco no mundo real. Para enganar os limpadores automáticos, por exemplo, é necessário colocar uma TV na frente do carro. É improvável que seja uma situação em que os motoristas da Tesla se encontram.

Outro truque, que ganhou acesso ao sistema de direção do carro, foi abordado em uma atualização de segurança, diz Tesla. Lançado como dois componentes, em 2017 e 2018, aparentemente corrigiu a “vulnerabilidade primária” que foi explorada, diz a montadora. “Nos muitos anos em que tivemos carros na estrada, nunca vimos um único cliente ser afetado por nenhuma das pesquisas deste relatório.”

À medida que os carros ficam mais inteligentes, o trabalho do motorista evolui

Tesla também comentou sobre o que é sem dúvida a exploração mais aplicável no mundo real, onde o reconhecimento de faixas foi enganado por marcações específicas no terreno. Lá, trechos de fita colocados na estrada eram suficientes para confundir a rede neural, mascarando completamente uma faixa de rodovia ou introduzindo uma pista falsa e inexistente.

“Nesta demonstração, os pesquisadores ajustaram o ambiente físico (por exemplo, colocar fita na estrada ou alterar as linhas da faixa) ao redor do veículo para fazer o carro se comportar de maneira diferente quando o piloto automático estiver em uso”, disse Tesla em resposta à pesquisa de reconhecimento de faixa. “Esta não é uma preocupação do mundo real, uma vez que o motorista pode facilmente ultrapassar o piloto automático a qualquer momento usando o volante ou os freios e deve estar preparado para fazê-lo o tempo todo.”

A resposta de Tesla à exploração do reconhecimento de faixas coloca mais uma vez a realidade do piloto automático e como alguns a descaracterizam sob o microscópio. Apesar das promessas ambiciosas da montadora de que, em um futuro não muito distante, seu Tesla será capaz de guiá-lo de maneira totalmente autônoma, o Autopilot, como é hoje, permanece resolutamente um sistema de Nível 2. Isso significa assistência ao motorista e que a pessoa ao volante ainda é responsável por garantir que o carro esteja sendo conduzido com segurança, independentemente das tecnologias envolvidas.

O grau de atenção de qualquer motorista que utiliza recursos como controle de cruzeiro adaptativo e manutenção da faixa de rodagem, em comparação com alguém que opera seu veículo inteiramente manualmente, permanece uma pergunta sem resposta. O que parece claro, no entanto, é que os riscos potenciais a que esses motoristas devem estar sintonizados estão evoluindo. A versão da realidade que os sistemas do carro veem e baseiam suas decisões e a versão que o operador humano vê podem diferir significativamente, seja fita na estrada ou qualquer outra coisa.

Quais sensores são essenciais para a condução autônoma?

A pesquisa – e especificamente seu comentário sobre a visão computacional – destaca outra questão persistente em torno da direção autônoma. A Tesla está registrando insistência em que o atual conjunto de sensores em seus carros seja suficiente para o nível 4 ou o nível 5 autônomo. Nesse ponto, o ser humano ao volante deve poder deixar a operação segura do carro inteiramente para os sistemas do veículo.

Notavelmente, porém, nenhum Tesla atual tem um LIDAR, ou detector de alcance a laser. Em vez disso, a montadora usa câmeras, radar e sensores ultrassônicos. Os especialistas do segmento estão divididos sobre se isso será suficiente para uma direção verdadeiramente autônoma, e essa pesquisa aumenta as preocupações existentes de que a visão por computador sozinha pode não ser suficiente.

“A Tesla usa uma solução pura de visão computacional para reconhecimento de faixas e descobrimos neste experimento de ataque que a decisão de dirigir veículos é baseada apenas nos resultados de reconhecimento de faixas de visão computacional”, concluem os pesquisadores da Tencent. “Nossos experimentos provaram que essa arquitetura apresenta riscos à segurança e o reconhecimento da faixa reversa é uma das funções necessárias para a condução autônoma em estradas não fechadas. Na cena que construímos, se o veículo souber que a pista falsa está apontando para a pista reversa, ela deve ignorar essa pista falsa e evitar um acidente de trânsito. ”

É claro que, com carros realmente autônomos ainda a anos de chegar ao mercado, a Tesla – e outras montadoras – ainda tem tempo para trabalhar no assunto. Mesmo assim, o fabricante de veículos elétricos é único ao oferecer veículos com uma opção totalmente autônoma paga, mesmo que não esteja ativo atualmente. Isso torna ainda mais vital que Tesla resolva a questão da visão por computador, para que não frustre os adotantes que já pagaram por um recurso que lhes foi prometido.

0 Shares