Ferramenta da Meta enviará notificações quando jovens pesquisarem repetidamente termos relacionados a autolesão
A Meta anunciou uma nova ferramenta que alertas aos pais quando adolescentes realizarem buscas repetidas por termos relacionados a autolesão. De acordo com a gigante da tecnologia, a implementação começará nos Estados Unidos, Reino Unido, Austrália e Canadá.
A empresa que controladora o Instagram enfrenta dois processos judiciais sobre segurança infantil em suas redes sociais.
Funcionamento da ferramenta
A funcionalidade de controle parental enviará notificações aos responsáveis quando adolescentes buscarem termos relacionados a comportamentos de risco repetidamente. Os alertas poderão ser recebidos por e-mail, mensagem de texto, WhatsApp ou dentro do próprio Instagram.
Quando os pais receberem as notificações, verão uma mensagem explicando os hábitos de busca preocupantes de seus filhos adolescentes no Instagram.
Terão a opção de visualizar recursos adicionais de ajuda. A ferramenta faz parte dos recursos de supervisão parental do Instagram. Tanto pais quanto adolescentes precisam estar inscritos nessas ferramentas para que a funcionalidade opere.
“Esses alertas são projetados para garantir que os pais estejam cientes se o adolescente tentar repetidamente procurar esse conteúdo, e para dar a eles os recursos necessários para apoiá-lo“, afirmou a empresa em um comunicado.
Contexto dos processos judiciais
A implementação dos alertas ocorre enquanto a empresa de mídia social enfrenta acusações de que o design e a funcionalidade de aplicativos como o Instagram promovem efeitos prejudiciais à saúde mental de usuários jovens.
Especialistas descreveram os processos judiciais e casos legais relacionados envolvendo empresas como YouTube do Google, TikTok e Snap. Os tribunais avaliam os supostos danos de seus produtos e seus alegados esforços para enganar o público sobre esses efeitos adversos.
O CEO da Meta, Mark Zuckerberg, testemunhou na semana passada no Tribunal Superior de Los Angeles. O testemunho fez parte de um processo no qual uma autora alega que se tornou viciada em aplicativos de mídia social como o Instagram quando era menor de idade.
Durante seu testemunho, Zuckerberg reiterou a posição da Meta de que proprietários de sistemas operacionais móveis e lojas de aplicativos relacionadas, como Apple e Google, estão mais bem preparados para verificar as idades dos usuários em oposição aos desenvolvedores de aplicativos.
Documentos legais divulgados na semana passada como parte de um julgamento separado relacionado à Meta no Novo México revelaram mensagens internas de funcionários. As comunicações discutiam como os esforços de criptografia da empresa poderiam dificultar a divulgação de relatórios de material de abuso sexual infantil às autoridades.
A Meta negou as alegações tanto no caso da Califórnia quanto no processo do Novo México.
Ajustes e próximos passos
A empresa chamou a medida de “um bom começo” enquanto tenta encontrar o limite adequado para o que constitui o envio de um alerta. Além disso, a Meta reconheceu que os pais podem receber alertas que talvez não indiquem uma causa real de preocupação.
A empresa afirmou que continuará ouvindo feedback sobre o recurso. A Meta informou que planeja eventualmente lançar alertas parentais similares para interações com ferramentas de IA.
Esses próximos alertas parentais relacionados à inteligência artificial surgem após crescentes preocupações de que chatbots de IA de várias empresas de tecnologia como OpenAI e Meta se envolvem em conversas questionáveis e potencialmente prejudiciais relacionadas à saúde mental com usuários.
A Meta oferece seus próprios chatbots de IA e está trabalhando em um novo modelo poderoso de IA com codinome “Avocado” que deve estrear ainda este ano, conforme reportado pela CNBC.
Decisão da Comissão Federal de Comércio
A Comissão Federal de Comércio dos Estados Unidos anunciou que não aplicará ações de fiscalização relacionadas à Regra de Proteção da Privacidade Online de Crianças contra determinados operadores de sites e serviços online que coletam dados de usuários para tecnologias de verificação de idade.
A FTC afirmou que a declaração de política faz parte de uma revisão maior da COPPA Rule no que diz respeito à verificação de idade.
Fonte: Giz_br
