Microsoft e MIT ajudam carros autônomos a aprender com ‘pontos cegos’ da IA

Microsoft e MIT ajudam carros autônomos a aprender com 'pontos cegos' da IA

Uma colaboração de pesquisadores do MIT e da Microsoft desenvolveu um sistema que ajuda a identificar falhas no conhecimento de inteligência artificial em carros e robôs autônomos. Esses lapsos, chamados de “pontos cegos”, ocorrem quando há diferenças significativas entre os exemplos de treinamento e o que um ser humano faria em uma determinada situação – como um carro sem motorista que não detecta a diferença entre um carro branco grande e uma ambulância com seu veículo. sirenes e, portanto, não se comportando adequadamente.

O novo modelo desenvolvido pelo MIT e pela Microsoft tem o sistema de IA comparando as ações do mundo real de um ser humano com o que ele teria feito na mesma situação. Como alternativa, em um ambiente em tempo real, um ser humano que vigia a IA pode corrigir quaisquer erros à medida que eles acontecem, ou imediatamente antes. O resultado é que o sistema de IA mudará seu comportamento com base em quão perto suas ações correspondem às do ser humano e identificará situações em que ele precisa de mais compreensão.

“O modelo ajuda os sistemas autônomos a conhecer melhor o que eles não sabem”, escreve a autora da pesquisa Ramya Ramakrishnan. “Muitas vezes, quando esses sistemas são implantados, suas simulações treinadas não correspondem à configuração do mundo real [and] eles podem cometer erros, como se envolver em acidentes. A idéia é usar seres humanos para preencher essa lacuna entre a simulação e o mundo real, de uma maneira segura, para que possamos reduzir alguns desses erros. ”

O modelo ainda não está pronto para o lançamento público, mas os pesquisadores o testam usando videogames, onde um ser humano simulado faz correções para um personagem do jogo. Parece que o próximo passo lógico, no entanto, é começar a usá-lo com carros autônomos reais e seus sistemas de teste.

0 Shares