A Alexa, assistente de voz da Amazon, criou um recurso que pode ser útil para pais e mães. O Create With Alexa passou a permitir a criação de histórias de ninar geradas integralmente por inteligência artificial. O recurso usa IA conversacional e generativa para criar histórias únicas depois que os usuários selecionam um tema, personagem e palavras-chave.
Enquanto os usuários ainda aguardam os testes para entender se a tecnologia é segura para crianças, alguns especialistas estão preocupados que a IA possa levar as crianças a acreditar que esses algoritmos são mais inteligentes do que realmente são.
A IA generativa, conhecida por produzir arte com base em texto, agora está se infiltrando em uma das experiências de união mais sagradas para pais e filhos: contar histórias na hora de dormir.
O recurso permite que crianças e pais selecionem temas como subaquático, floresta encantada e exploração espacial e escolham um personagem, uma palavra descritiva e uma cor. Então, eles se sentam e esperam enquanto a IA apresenta diferentes histórias, visuais, diálogos de áudio e música de fundo.
Com a Amazon embarcando na mania generativa da IA, alguns especialistas dizem que a empresa criou salvaguardas para garantir que a tecnologia não esteja jorrando nada inapropriado para os ouvidos jovens, e o Create With Alexa pode ajudar a promover mais experiências compartilhadas para crianças e pais. Mas os pesquisadores de IA também alertam que as histórias feitas com IA generativa podem confundir a compreensão das crianças sobre as capacidades e a inteligência da IA.
O recurso, disponível nos dispositivos Echo Show, conta com IA generativa, algoritmos que usam o conteúdo existente para criar conteúdo. Especificamente, ele implementa modelos de linguagem, que ingerem grandes quantidades de texto para aprender a criar frases semelhantes à forma como as pessoas falam. O algoritmo que alimenta o Create With Alexa é treinado em um banco de dados de visuais disponíveis comercialmente, bem como no próprio conteúdo proprietário da Amazon.
Eshan Bhatnagar, chefe de produto da Alexa AI na Amazon, diz que o Create With Alexa foi projetado com a segurança em mente. A tecnologia possui três salvaguardas, incluindo filtragem de conteúdo, treinamento da IA em um conjunto de dados curado sem conteúdo tóxico e, o mais importante, a criação de uma experiência estruturada e restrita. “Queríamos evitar o tipo de tendência de lixo no lixo da IA”, diz Bhatnagar, referindo-se à probabilidade de a IA renderizar conteúdo impróprio com base no tipo de entradas alimentadas nela. “Estamos sendo cautelosos e conservadores em nossa abordagem de como queremos expor alguns dos recursos generativos para nossos clientes.”
Stefania Druga, pesquisadora em IA criativa da Universidade de Washington, diz que a decisão da Amazon de criar o novo recurso de narrativa do Alexa, estruturando-o em torno de alguns prompts de entrada que solicitam aos usuários que selecionem um determinado conjunto de modelos, pode ajudar a tornar a IA generativa mais segura para crianças. . “Acho que essa abordagem de fornecer modelos selecionados e realmente tentar selecionar a experiência e controlar os tipos de gerações que podem ser inseridas no sistema é muito promissora”, disse Druga à Forbes .
Mas essas salvaguardas não podem proteger totalmente as crianças da influência de sistemas de computador inteligentes como o Alexa. Druga encontrou em seu trabalho de pesquisa ” Ei, Google, tudo bem se eu comer você?” Explorações iniciais na interação criança-agente ”que interagir com assistentes de voz como Alexa e Google Home pode influenciar a maneira como as crianças entendem a inteligência dos computadores. Ela diz que o Create With Alexa pode confundir as habilidades da IA para crianças, influenciando seus julgamentos sobre o quão inteligente o computador realmente é e se é uma fonte confiável.
“O que tenho visto em minhas pesquisas é que as crianças nem sabem ler e escrever quando começam a interagir com um assistente de voz. E se essa é a primeira introdução à busca de qualquer coisa na web, isso realmente influencia sua experiência em como eles processam informações”, diz Druga. “Porque se for falado com eles com uma voz bonita como um humano falaria, eles realmente não veem que isso é como o primeiro resultado de uma pesquisa na web, então é mais difícil desenvolver esse senso crítico de se eles devem confie nisso ou não.
“Estamos sendo cautelosos e conservadores em nossa abordagem de como queremos expor alguns dos recursos generativos para nossos clientes”, diz Eshan Bhatnagar, chefe de produto da Amazon.
Em vez de mostrar a IA generativa como uma tecnologia mágica e onisciente, ela deve ser vista como uma tecnologia que pode ser modificada e usada para promover um ofício, diz Druga. Para fazer isso, também é importante garantir que as crianças entendam a tecnologia e saibam o que está acontecendo nos bastidores. “Acho importante não dar a eles esses aplicativos e conteúdos já pré-mastigados, mas também dar a eles ferramentas de criação com essa tecnologia”, diz ela.
Sandra Cortesi, pesquisadora do Berkman Klein Center for Internet & Society da Universidade de Harvard, diz que os pais devem evitar tecnologias que façam seus filhos consumirem mídia passivamente. No caso do Create With Alexa, Cortesi questiona se os pais querem expor seus filhos a mais tempo de tela na forma de storytelling em vídeo. “Prefiro tecnologias que tenham algum tipo de caráter ativo do que apenas mais uma coisa que você assiste e consome”, diz Cortesi.
Esta não é a primeira vez que a Amazon se aventura na tecnologia de contar histórias. Em 2017, a empresa lançou o Magic Door, um jogo de aventura interativo que permite aos usuários decidir cada etapa de uma história. A experiência não linear não usa nenhum tipo de IA, mas possui 200 cenas diferentes. Semelhante ao ‘Create With Alexa’, ele oferece aos usuários a capacidade de escolher prompts como configurações como florestas, mares e terras encantadas e decidir qual cena aparecerá a seguir. No início deste ano, a Amazon também lançou o CodeWhisperer, um assistente de codificação baseado em aprendizado de máquina.
No ano passado, startups de alto perfil lançaram modelos de IA generativos de conversão de texto em imagem, como Dall-E 2 e Stable Diffusion, que capturaram a imaginação de milhões nas mídias sociais. As startups por trás desses tipos de algoritmos, como Stability AI e Runway ML , levantaram dezenas de milhões de dólares em financiamento de risco e obtiveram altas avaliações. A OpenAI, empresa que lançou o Dall-E 2, revelou o ChatGPT na semana passada, um chatbot capaz de escrever redações, codificar e fornecer respostas detalhadas (mas às vezes imprecisas) a perguntas.
Essas empresas usam o aprendizado de máquina para gerar novos conteúdos de texto e imagem, em vez de combinar os dois em um formato de vídeo, como o Amazon Alexa fez. Mas outras ferramentas de IA generativa se concentram na narrativa, incluindo Storywizard AI , que usa IA generativa para criar histórias com imagens baseadas em enredos que ilustram conceitos morais como amizade e superação do medo, e Novel AI, que se apresenta como “uma caixa de proteção movida a GPT para a sua imaginação.”
Contar histórias que usa IA generativa pode ser um meio de inspiração e criatividade entre as crianças. Cortesi diz que as histórias produzidas pela IA generativa podem inspirar os usuários a criar comunidades de fanfiction online e criar histórias adicionais que se baseiam no que a IA produz. Bhatnagar, da Amazon Alexa, diz que o tablet nunca substituirá o livro de histórias; em vez disso, aumentará a experiência. Cortesi acrescenta que a narrativa tradicional está longe de ser descartada para uma versão digital.
“Para pais e filhos, as histórias são algo que nos deixa nostálgicos”, diz Cortesi. “Ainda me lembro quando meus pais me contavam histórias.”
“Espero que os pais, que já têm uma tonelada de tarefas e responsabilidades, não apenas dêem essa ferramenta aos filhos e digam: ‘Vá em frente, faça a história. Boa noite.’”
Por: Luiz Gustavo Pacete
