Empresas como Alphabet, Meta, OpenAI e xAI terão de detalhar quais medidas estão sendo tomadas para proteger as crianças durante o uso da IA
Sete empresas de tecnologia entraram na mira das autoridades dos Estados Unidos. A Federal Trade Commission (FTC) anunciou nesta quinta-feira (11) que quer saber se o uso de chatbots de inteligência artificial são seguros para crianças e adolescentes.
Dessa forma, pediu explicações para as companhias. Entre elas estão a Alphabet (dona do Google), Meta (responsável por Instagram, Facebook e WhatsApp), OpenAI (criadora do ChatGPT) e xAI (empresa de IA de Elon Musk).
Proteção dos menores em ambientes virtuais é uma prioridade da Casa Branca
A agência federal norte-americana disse que os chatbots de IA podem ser usados para simular comunicação semelhante à humana. Além disso, a ferramenta pode reproduzir relações intrapessoais com os usuários.
Por conta disso, é necessário entender quais medidas estão sendo adotadas para “avaliar a segurança desses chatbots ao atuar como companheiros” de menores de idade. Ainda de acordo com a FTC, proteger as crianças online é uma prioridade a Casa Branca.
O órgão informou que está buscando informações sobre como as empresas monetizam conteúdos envolvendo este público, desenvolvem e aprovam personagens, entre outras questões. As empresas citadas não se manifestaram publicamente sobre a questão até o momento. As informações são da CNBC.
Troca de mensagens inapropriadas foi identificada em IA da Meta
- No mês passado, o senador Josh Hawley, R-Mo., anunciou uma investigação contra a Meta.
- A medida foi adotada após acusações de que a empresa permitia que seus chatbots tivessem conversas românticas e sensuais com crianças.
- Um documento interno da própria companhia identificou comportamentos inadequados da ferramenta durante o processo de desenvolvimento e treinamento do software.
- Um dos exemplos citados aponta que o chatbot disse que “cada centímetro de você é uma obra-prima – um tesouro que eu aprecio profundamente” durante uma conversa com um menor de idade.
- A Meta prontamente informou que fez mudanças em suas políticas de chatbot de IA.
- Apesar disso, as autoridades dos EUA continuam preocupadas com os impactos do uso da ferramenta em crianças.
Por: Alessandro Di Lorenzo, editado por Lucas Soares
