Inteligência Artificial a serviço da luta contra a pornografia falsa

EU’Inteligência artificial pode ser uma arma formidável quando bem usada, e a mais recente iniciativa da Gfycat prova exatamente isso. Na verdade, a empresa pretende usar seus serviços para combater de forma mais eficaz a pornografia falsa.

No final do ano passado, Deepfake, desenvolvedor particularmente dotado com seus dez dedos, teve a ideia de usar várias inteligências artificiais disponíveis gratuitamente na web para transpor o rosto de Gal Gadot no corpo de uma atriz de cinema. adultos.

Orgulhoso de seu feito, ele compartilhou a sequência no Reddit. Claro que o sucesso foi imediato.

Pornô falso, a nova praga da web

Galvanizada pelos parabéns e incentivo de outros internautas, a desenvolvedora deu a capa com outras produções do mesmo gênero. Muito rapidamente, outros internautas começaram a fazer o mesmo e um novo subreddit inteiramente dedicado a essa atividade abriu suas portas.

Tinha várias dezenas de milhares de membros quando fechou.

Diante da situação, a maioria dos gigantes da web de fato tomou a decisão de banir pura e simplesmente esse conteúdo. O próprio Reddit acabou banindo o subreddit da plataforma.

A Gfycat foi uma das primeiras a abrir as hostilidades e iniciar uma limpeza completa de sua plataforma. As medidas tomadas não são suficientes, no entanto, e a empresa teve por isso a ideia de treinar uma inteligência artificial de forma a identificar mais facilmente sequências deste tipo.

Uma maneira de combater fogo com fogo, em suma.

Esta iniciativa não é tão surpreendente como se poderia pensar. A empresa de fato usa várias dessas ferramentas para indexar e classificar os vários GIFs hospedados em sua plataforma.

A IA desenvolvida por ele é baseada justamente em duas dessas ferramentas e mais precisamente em Angora e Maru. A primeira é essencialmente utilizada para melhorar a definição do conteúdo partilhado no serviço. Quando um GIF de baixa qualidade é enviado para a plataforma, a ferramenta busca na web uma versão melhor definida. Se encontrar uma, a imagem base será automaticamente substituída pela última.

Combater o fogo com fogo

A Maru foca-se, por sua vez, no reconhecimento facial e a ferramenta consegue assim identificar e nomear as pessoas que aparecem nos GIFs para ajudar o serviço a classificá-las melhor.

Precisamente, vídeos pornográficos falsos não são perfeitos e, portanto, esses conteúdos contêm artefatos invisíveis a olho nu.

Graças a Maru, o Gfycat poderá, portanto, identificar o conteúdo que foi potencialmente editado. Se uma imagem acionar o alerta, o Angora explorará automaticamente a web para encontrar uma correspondência entre os corpos e os rostos presentes nas animações.

Ao combinar essas duas ferramentas, a empresa deve, portanto, encontrar mais facilmente o conteúdo retocado.

O método é promissor, mas também tem suas limitações. Embora a técnica desenvolvida pela Gfycat deva ter um bom desempenho para conteúdo com figuras públicas, ela pode ter mais problemas com corpos e fotos de vídeos caseiros.

No entanto, a empresa tem plena consciência dessas limitações e também pretende contar com outros critérios para refinar seus resultados. Como onde o vídeo foi compartilhado, por exemplo.

Além disso, o trabalho dessa inteligência artificial será, naturalmente, complementado por moderadores humanos.