IA justa por meio de aprendizado de máquina?

Os modelos de IA são treinados usando um grande número de informações. Segundo os pesquisadores, suas previsões podem estar erradas quando esses dados não são balanceados. Recentemente, pesquisas levaram à descoberta de um novo método que melhora a capacidade dos sistemas de IA de reduzir o viésmesmo que as informações utilizadas não sejam balanceadas.

Do pesquisadores do MIT descobriram que as IAs usadas para tarefas de reconhecimento de padrões não funcionam quando treinadas com dados tendenciosos. Esta distorção do modelo não pode ser corrigida pela métodos de melhoria precisão ou por reeducação do modelo com dados balanceados.

Para os cientistas, a solução a ser encontrada deve permitir que os modelos façam previsões mais equilibrado e melhorar A perfomance deles. Os resultados da pesquisa serão apresentados na conferência internacional sobre representações de aprendizagem.

Do aprendizado de métricas profundas

A educação automática examinada neste estudo é conhecida como Aprendendo métrica profunda, que é um modo típico de formação. Ao estudá-lo, os cientistas notaram que a rede neural aprende semelhanças entre objetos comparando imagens semelhantes com outras imagens.

De fato, esta rede compara imagens em um espaço de integração Onde uma métrica de semelhança entre as fotos é a distância entre elas.

Assim, esses cientistas afirmam que com esse processo de aprendizado, o modelo de IA apresentaria uma medida de semelhança tendenciosa. Por exemplo, durante o reconhecimento facial, se dois indivíduos tiverem cores de pele semelhantes, a medida é objetivomesmo que não sejam pessoas da mesma raça.

Além disso, se o recursos usados ​​pela IA para medir a semelhança são melhor para a maioria das pessoas em uma população, então as previsões serão injustas.

Aprenda métricas distintas

A solução dos pesquisadores, denominada decorrelação parcial de atributosé treinar o modelo para aprender com novas métricas similaridade para atributos sensíveis. Uma vez que o modelo tenha estudado as medidas de similaridade para rostos humanos diferentesseria capaz de reunir rostos semelhantes e excluir aqueles que diferem.

Além disso, é possível combinar qualquer número de caracteristicas importantes para a métrica de similaridade desejada. Para isso, os pesquisadores testou o método sobre reconhecimento facial e classificação de aves. Eles descobriram que, independentemente do conjunto de dados usado, diferenças nos resultados devido a um viés no espaço de incorporação de integração poderia ser reduzido.

FONTE: SCITECHDAILY