O Microsoft Project Artemis examinará os chats em busca de sinais de exploração infantil

O Microsoft Project Artemis examinará os chats em busca de sinais de exploração infantil

Assim como a Internet capacitou as pessoas, conectando-as ao conhecimento e entre si, infelizmente também capacitou indivíduos menos conscientes na realização de atividades ilegais no anonimato. A exploração sexual, especialmente de menores, é um dos problemas de longa data para autoridades e empresas da Internet, e sua complexidade desafia as soluções convencionais. A Microsoft está enfrentando o desafio com uma nova ferramenta chamada Projeto Artemis, que tentará procurar sinais de limpeza on-line que possam levar à exploração infantil.

Você pode associar a palavra “limpeza” à atividade física de limpeza, mas a limpeza on-line é exatamente o oposto. Envolve técnicas enganosas ou indiretas para atrair as crianças para uma sensação de segurança, apenas para abusá-las mais tarde online.

Grande parte dessa preparação envolve conversar com a vítima, o que acaba sendo um tesouro para a Microsoft liberar suas habilidades de IA. Ele não entra nos detalhes técnicos de Artemis além de como é aplicado ao texto histórico do bate-papo, também conhecido como logs de bate-papo, e classifica cada um de acordo com a probabilidade de conterem cuidados com a criança. As empresas de bate-papo que usam a tecnologia podem então analisar o bate-papo e determinar se ele deve ser enviado para revisão humana e, se necessário, alertar as autoridades.

A Microsoft diz que implementa a tecnologia no Xbox há anos e poderá aplicá-la em breve ao Skype. Também está licenciando a tecnologia via Thorn, uma organização sem fins lucrativos que visa construir tecnologia para combater o abuso sexual de menores.

Pode haver algumas preocupações sobre como o Project Artemis pode ser usado para violar a privacidade do usuário, embora o tópico privacidade e atividade ilegal online sempre tenha sido um assunto espinhoso. Deveria, pelo menos, dar aos possíveis infratores uma pausa para reflexão, mas também não deveria ser usado como uma cobertura para comprometer a integridade de pessoas inocentes. Como sempre, é necessário um equilíbrio cuidadoso ao colocar essas ferramentas nas mãos das empresas.

0 Shares