Funcionários da Amazon supostamente assistem clipes do Cloud Cam para ajudar a treinar a IA

Funcionários da Amazon supostamente assistem clipes do Cloud Cam para ajudar a treinar a IA

A Amazon foi a primeira a ouvir o discurso gravado pelo Alexa, com o objetivo de auditá-los e melhorar a IA da empresa para o serviço. Acontece que não é apenas o áudio que a empresa está distribuindo aos funcionários com o mesmo objetivo. Parece que o jogo justo também é gravações em vídeo da Cloud Cam da empresa e, dada a natureza visual do conteúdo, é facilmente mais identificável e mais problemática ao manter as identidades dos proprietários em sigilo.

Lançada no final de 2017, a Cloud Cam foi a primeira incursão formal da Amazon no mundo das câmeras domésticas inteligentes. A webcam de 1080p foi anunciada como um dispositivo de segurança, irônica devido a essas alegações, e anunciou o uso da IA ​​para diferenciar entre animais em movimento e assaltantes invadindo. E, como muitos já devem saber, a AI não é um molho mágico que começa completamente conhecedor e perfeito.

Qualquer IA, especialmente não trivial como essa, precisa ser treinada e o aprendizado de máquina em si também não acontece por mágica. Ele precisa trabalhar em milhares, senão milhões, de dados e, em alguns casos, exigir a intervenção de humanos para verificar erros na avaliação da IA ​​de um determinado dado. Em casos específicos de hits, assim como nas gravações de áudio Alexa, os seres humanos auditam clipes de vídeo para corrigir a identificação de atores no Cloud Cam, sejam humanos, animais e outras ações.

Essa é a situação complicada em que os proprietários do Cloud Cam estão se metendo. Segundo o relatório da Bloomberg, a Amazon não informou aos proprietários que os clipes gravados pela câmera podem ser vistos por humanos. Eles apenas presumem que alguma IA analise o vídeo e possa identificar automaticamente pessoas e atividades dentro da visualização. Os usuários podem nem perceber que os humanos podem revisar clipes enviados intencionalmente porque a IA do Cloud Cam o marcou incorretamente.

Ao contrário do áudio, o conteúdo de vídeo coletado pelo Cloud Cam é imediatamente mais revelador, especialmente quando se trata de alguma atividade comprometida ou muito pessoal. A Amazon possui políticas de descarte de dados, especialmente para materiais sensíveis, uma vez que algo é visto, nem sempre pode ser invisível. Especialmente por pessoas que podem ter outras intenções.

0 Shares