MIT: a rede neural TbD-net agora pode explicar seu raciocínio
O Lincoln Intelligence and Decision Technologies Group do MIT revelou uma nova ferramenta para combater a IA tendenciosa em 12 de setembro de 2018. Esta é a TbD-net, uma rede de transparência por design ou, em outras palavras, uma rede neural capaz de responder a perguntas complexas baseadas em imagens e explicar o processo pelo qual encontrou as respostas.
O MIT disse em um comunicado à imprensa que, ao avaliar o TbD-net em um conjunto de imagens e perguntas, obteve uma taxa de precisão de 98,7% em suas respostas.
Graças às explicações do raciocínio fornecido pela tecnologia, os pesquisadores conseguiram aprimorá-la e fazê-la atingir uma taxa de precisão de 99,1%.
De acordo com especialistas, a TbD-net é a criação de inteligência artificial mais compreensível e confiável atualmente.
O raciocínio TbD-net
Se você pedir a essa rede neural para determinar a cor do quadrado grande que está em uma imagem cheia de outras formas com tamanhos e cores diferentes, o TbD-net decompõe a questão e trata especificamente cada parte com módulos diferentes.
Um módulo para pesquisar objetos grandes pesquisará formas grandes na imagem. O software exibirá um mapa de calor para determinar qual dessas grandes formas é quadrada. O programa usará outro módulo para identificar a cor e emitir a resposta. Mais importante ainda, a IA apresentará uma representação visual do raciocínio que realizou para chegar a essa conclusão.
Uma rede neural quase perfeita
Os cientistas testaram o TbD-net com um conjunto de dados visual de 70.000 imagens de treinamento e 700.000 perguntas, bem como conjuntos de teste e validação de 15.000 imagens e 150.000 perguntas. A rede neural deu uma taxa de precisão de 98,7%. Esta é a taxa de precisão mais alta entre todas as outras abordagens realizadas em outras redes neurais.
A IA tendenciosa está entre as principais preocupações tecnológicas do nosso tempo, de acordo com especialistas do MIT. Eles também afirmam que tais criações de IA, como a TbD-net, aumentarão os níveis de transparência e evitarão perigos tecnológicos que podem prejudicar os seres humanos.
