Iniciativa da empresa visa achar formas de tornar sua ferramenta mais segura para crianças e adolescentes
A OpenAI, empresa responsável pelo ChatGPT, está procurando profissionais para montar uma equipe especializada em segurança infantil. A iniciativa visa melhorar políticas de plataforma, jurídicas e de investigações para que crianças e adolescentes não usem incorretamente a inteligência artificial.
No momento, a empresa procura um especialista em aplicação de segurança infantil, que será o líder e o responsável por aplicar as políticas da OpenAI no contexto de conteúdo gerado por IA e trabalhar em processos de revisão relacionados a “conteúdo sensível”.
O fato de a OpenAI estar contratando especialistas em segurança infantil já era esperado e vai na linha do que outras grandes empresas de tecnologia tem feito para fazer uma separação do conteúdo entre adultos e menores de idade – algo muito visto em streamings, por exemplo. Os termos de uso atuais da OpenAI exigem consentimento dos pais para crianças de 13 a 18 anos e proíbem o uso para crianças menores de 13 anos.
A formação da nova equipe ocorre algumas semanas após a OpenAI anunciar uma parceria com a Common Sense Media para colaborar em diretrizes de IA amigáveis para crianças e garantir seu primeiro cliente na área da educação. Crianças e adolescentes estão cada vez mais recorrendo a ferramentas de IA para GenAI (IA generativa) não apenas para ajudar nos trabalhos escolares, mas também em questões pessoais. De acordo com uma pesquisa do Centro de Tecnologia Democrática, 29% das crianças relatam ter usado o ChatGPT para lidar com ansiedade ou problemas de saúde mental, 22% para questões com amigos e 16% para conflitos familiares.
Desde que o ChatGPT se tornou acessível para o público geral, escolas e universidades tem se mostrado preocupadas e tentado tomar medidas contra plágio, algo que afeta o ensino profundamente. Desde então, muitas instituições proibiram o uso da plataforma.
Uma pesquisa do Safer Internet Centre’s do Reino Unido descobriu que mais da metade das crianças (53%) relatam ter visto pessoas da sua idade usando inteligência artificial de maneira negativa — por exemplo, criando informações falsas e imagens convincentes usadas para incomodar alguém.
Receita da OpenAI atinge US$ 2 bilhões em 2023
- A OpenAI, apoiada pela Microsoft, atingiu a marca de US$ 2 bilhões (aproximadamente R$ 10 bilhões) de receita em dezembro de 2023, revelou a Reuters nesta sexta-feira (09);
- A expectativa da empresa de Sam Altman é mais do que duplicar esse valor até 2025, com o aumento da demanda por produtos com inteligência artificial (IA) generativa – tecnologia por trás do ChatGPT, por exemplo;
- Atualmente, o CEO negocia investimento trilionário para superar as limitações atuais da produção de chips, cruciais para o avanço da IA.
Fonte: Olhar Digital
