Open AI desenvolveu um gerador de texto que é muito inteligente e perigoso para ser tornado público

A inteligência artificial é uma ameaça quando consegue se passar por um humano na Internet? A Open AI, empresa de IA de Elon Musk, está convencida de que sim. É por isso que a empresa tomou a decisão de não publicar software baseado na inteligência artificial que a start-up conseguiu desenvolver.

O software em questão é um gerador de texto chamado GPT-2. Originalmente, os pesquisadores da Open AI só queriam treinar o programa “para prever a próxima palavra em uma frase”. Eles usaram 40 GB de dados de 8 milhões de páginas na Net.

Apenas o GPT-2 se tornou tão hábil em imitar a maneira como um humano escreve que a pesquisa foi suspensa enquanto determina que ameaça pode representar.

Muito eficiente?

O GPT-2 foi testado duas vezes pelo jornal americano The Guardian.

A partir da primeira linha de “Nineteen Eighty Four-Four” de George Orwell, o software conseguiu produzir um parágrafo distópico de ficção científica perfeitamente coerente.

O programa também foi usado pelo The Guardian para escrever uma notícia falsa que o diário publicou em suas páginas. O resultado é totalmente impressionante com gramática impecável e o uso de aspas falsas. Realmente parecia que o artigo foi escrito por um humano. O mais assustador é que o GTP-2 gerou o texto em apenas 15 segundos.

caixa de Pandora

Para Elon Musk, a inteligência artificial é uma das “maiores ameaças existenciais” à humanidade. Com o GPT-2, os pesquisadores da Open AI parecem concordar, considerando o software como uma caixa de Pandora que não deve ser aberta.

Como toda vez que consegue desenvolver uma nova tecnologia, a Open AI publicou esta semana um artigo sobre seu programa gerador de texto. No entanto, a empresa decidiu não revelar sua pesquisa na íntegra para evitar que pessoas mal-intencionadas consigam desenvolver um software tão “perigoso”. »

Eles poderiam então usar o programa para gerar notícias falsas como parte de “ falsas operações de divulgação de novas informações. »

Artigos Relacionados

Back to top button