Assistentes inteligentes podem ter nos deixado mais relaxados com a privacidade

Assistentes inteligentes podem ter nos deixado mais relaxados com a privacidade

Provavelmente, há pouco debate sobre que os assistentes inteligentes com inteligência artificial se tornaram muito úteis. Eles começaram como uma diversão, mas sem muita utilidade e, às vezes, até se tornaram alvo de piadas graças a comandos mal interpretados. Hoje em dia, porém, empresas como Amazon Alexa, Google Assistant e Apple Siri se tornaram uma parte normal da vida tecnológica moderna, com ou sem alto-falantes inteligentes envolvidos. Mas, por toda a sua utilidade e ajuda, esses serviços podem ter deixado as pessoas menos vigilantes sobre o que dizem e fazem e, ao que parece, essas declarações secretas podem não ser tão secretas.

A verdade sobre alto-falantes inteligentes

Eles podem parecer dispositivos mágicos que transmitem uma vibração de Star Trek, mas, a princípio, alto-falantes inteligentes eram motivo de chacota no mundo da tecnologia. Poucos sabiam o que fazer com o Amazon Echo e seu estranho corpo cilíndrico. Antes que soubéssemos disso, graças ao marketing agressivo das empresas, empresas como Echo, Google Home e HomePod tornaram-se comuns entre os técnicos.

Cada vez mais aparelhos e acessórios começaram a integrar esses assistentes inteligentes, a maioria deles oferecendo um mundo de conhecimento e controle ao pressionar um botão ou ao acionar uma frase de gatilho.

O último é a conveniência final, pois você só precisa dizer a palavra e, como um gênio, a resposta, se existir, é entregue aos seus ouvidos. Mas essa conveniência não acontece por mágica. Tecnicamente, exige que esses dispositivos, especialmente os alto-falantes inteligentes, estejam sempre ouvindo.

É claro que os fabricantes inteligentes de alto-falantes insistirão e esclarecerão que os alto-falantes não estão realmente gravando esses sons o tempo todo e que apenas começam a realmente analisar ou gravar o discurso depois de ouvir a frase de gatilho. Infelizmente, é exatamente aí que o problema começa.

Diga isso de novo?

Apesar de décadas de reconhecimento de voz e fala, os assistentes inteligentes dificilmente são infalíveis, mesmo ao distinguir seus próprios nomes. Pode ser uma piada que os assistentes de IA possam interpretar erroneamente certas frases para seus gatilhos, mas isso tem sérias implicações.

Se um assistente inteligente só começa a gravar clipes de áudio depois que o gatilho é acionado, isso significa que ele também grava tudo o que foi dito após essas ativações acidentais, independentemente de o usuário estar ciente ou não.

De fato, isso levou a pelo menos uma instância embaraçosa em que certas conversas foram gravadas e enviadas para algum contato aleatório. Esses gatilhos acidentais também são usados ​​para justificar a alimentação de assistentes de IA com dados, ou seja, enviar gravações de amostra para as empresas, a fim de melhorar seu serviço. O que essas empresas realmente não disseram aos usuários é o que está envolvido nesse processo.

Aprendizado de máquina assistido por humanos

Considerando como é retratado pela mídia, muitas pessoas vêem a IA e o aprendizado de máquina como um molho mágico que torna cada software inteligente. Alguns, pelo menos, estarão cientes das quantidades complexas e massivas de processamento de dados envolvidos para chegar a esses feitos impressionantes da magia computacional. Por isso, poucos provavelmente imaginam a quantidade de intervenção humana direta envolvida no treinamento desses assistentes de IA.

Ao contrário de outros aplicativos de aprendizado de máquina, os assistentes inteligentes não podem simplesmente trabalhar em conjuntos de dados completamente aleatórios. Para serem realmente úteis e relevantes, eles precisam trabalhar com palavras e frases faladas reais. Às vezes, eles podem errar, e é aí que entra o elemento humano.

Ao contrário de outros aplicativos de aprendizado de máquina, os assistentes com inteligência artificial às vezes precisam ser informados de que entendem errado tudo para que possam melhorar e são necessários ouvidos humanos para fazer isso. Infelizmente, esse é o segredo sujo que a indústria mantém até expostos recentemente.

As paredes têm ouvidos

Pode parecer um caso de boicote imediato a essas tecnologias, mas, convenhamos, isso nunca vai acontecer. Não apenas eles já estão muito arraigados na vida e na consciência modernas, mas esses assistentes inteligentes e os dispositivos inteligentes em que eles vêm também provaram ser realmente úteis.

Alto-falantes inteligentes são apenas o foco mais recente do escrutínio. Os smartphones têm feito o mesmo em certa medida há anos. Em breve, tudo e qualquer coisa atrelam a assistentes inteligentes ou até os incorporam. Em breve tudo e qualquer coisa serão conectados.

Em vez de abandonar todos os avanços modernos, usuários, desenvolvedores e defensores da privacidade devem aproveitar a oportunidade para orientar a indústria nascente enquanto ainda não é tarde demais. As empresas devem ser responsabilizadas e divulgar práticas que ponham em risco a privacidade dos usuários de qualquer maneira.

Os usuários também devem estar cientes dos riscos que correrão, para que possam tomar decisões fundamentadas sobre se devem ou não assinar essas conveniências. Como sempre, vigilância é o preço que deve ser pago para proteger a liberdade e a privacidade. Infelizmente, embora a privacidade e as violações da privacidade sejam sempre temas quentes, poucos a levam a sério.

0 Shares