Pesquisadores da Universidade de Columbia, nos EUA, desenvolveram um novo sistema que gera sons silenciosos, impedindo que microfones de assistentes pessoais, relógios, televisores e celulares usem inteligência artificial (IA) para espionar seus usuários.
Segundo os cientistas, o algoritmo evita que dispositivos eletrônicos processem a fala humana durante uma conversa informal para obter informações pessoais — como localização, preferências ou hábitos alimentares — que podem ser usadas por empresas na elaboração de anúncios personalizados ou para traçar um perfil de consumo.
“Nosso algoritmo consegue impedir que um microfone desonesto ouça corretamente as palavras em 80% das vezes. Ele funciona mesmo quando não sabemos a localização do microfone, camuflando a voz de uma pessoa pelo ar, escondendo-a dos sistemas de escuta, sem incomodar a conversa de quem está na sala”, explica o professor de ciência da computação Carl Vondrick.
Prevendo a conversa
Um dos problemas enfrentados pelo sistema de IA para atrapalhar o reconhecimento automático da fala é a rapidez com que essa detecção precisa ser feita. A principal dificuldade é que o som capaz de interromper a fala de uma pessoa em um momento específico não é o som que consegue fazer a mesma função um segundo depois.
/i584274.png)
Isso acontece porque, à medida que as pessoas falam, suas vozes mudam constantemente, fazendo com que muitas palavras sejam ditas de forma diferente. Essas alterações imperceptíveis tornam quase impossível para uma máquina acompanhar o ritmo acelerado da fala humana.
“Esse algoritmo consegue prever as características do que uma pessoa vai dizer em seguida, dando ao sistema tempo suficiente para gerar o sussurro certo. Até agora, nosso método funciona com a maioria do vocabulário da língua inglesa, mas planejamos aplicá-lo em mais idiomas, tornando o som praticamente imperceptível”, acrescenta a PhD em ciência da computação Mia Chiquier.
Ataques preditivos
Para “quebrar” as redes neurais dos microfones espiões em tempo real, os pesquisadores projetaram um sistema que pode ser gerado continuamente à medida que as pessoas conversam. O novo algoritmo usa o que os cientistas chamam “ataques preditivos” — sinais que podem interromper qualquer palavra que os modelos de reconhecimento automático de fala são treinados para transcrever.
/i584273.png)
Os ataques preditivos são otimizados para terem um volume semelhante a um ruído de fundo comum, permitindo que as pessoas em uma sala, por exemplo, conversem naturalmente, sem serem monitoradas constantemente por sistemas de reconhecimento automático de fala.
“Nossos computadores e aparelhos eletrônicos usam redes neurais e inteligência artificial para monitorar e processar nossa fala, obtendo todo tipo de informação de maneira furtiva. Esse algoritmo pode ser implementado em qualquer hardware, dando às pessoas a capacidade de proteger a privacidade da sua voz”, encerra o professor Carl Vondrick.
Fonte: Columbia University
