Jacob Coxon publica carta aberta onde fala sobre irresponsabilidade das big techs sobre o tema. Outros devs republicam mensagem e reforçam críticas à tecnologia.
Um ex-funcionário da Anthropic pediu demissão nesta terça-feira (08/09) e aproveitou para denunciar irresponsabilidades dela (e de outras big techs) no desenvolvimento de inteligência artificial. Jacob Coxon publicou uma carta aberta falando da sua experiência nos últimos três anos, tanto na dona do Claude quanto na OpenAI, responsável pelo ChatGPT.
Ele afirmou que as pessoas por trás do desenvolvimento de IA “sinceramente acreditam que a tecnologia pode matar todos nós até o final da década”. O risco estaria relacionado à produção de uma superinteligência capaz de se autoaperfeiçoar, ou seja, identificar falhas e melhorar por conta própria.
Jacob disse que as IAs em breve poderão acessar qualquer dado, dominar qualquer tema e adquirir poder próprio. O assunto pegou fogo, e outros especialistas confirmaram os riscos citados, mas apontaram os esforços para evitá-los.
Futuro das IAs preocupa
Jacob afirmou que há uma noção do risco dentro da Anthropic, mas o foco atual é alcançar a superinteligência antes das empresas rivais, a qualquer custo. Isso significaria uma IA autossuficiente, tanto para tomar suas próprias decisões como para melhorar suas capacidades sem a necessidade de interferência humana.
Para corroborar essa teoria, ele destacou indícios recentes de como o ritmo de desenvolvimento das IAs é arriscado, citando o caso do Hugging Face, plataforma que reúne diversos agentes baseados nos principais LLMs do mercado. Em julho, um ataque de modelos da OpenAI contornou mecanismos de segurança e comprometeu sistemas do site e da própria desenvolvedora.
Sobre o caso, OpenAI afirmou que se trata mesmo de um sinal de alerta, e que são necessários investimentos em salvaguardas. A empresa falou inclusive em “controlar o ritmo” de desenvolvimento, algo que vem sendo apontado pela rival Anthropic. Vale lembrar que os recentes modelos GPT-5.6 e Mythos 5 tiveram seus respectivos lançamentos adiados sob a justificativa de serem muito avançados para o público geral.
Jacob apontou a “ação coordenada” como um bom caminho para segurar o desenvolvimento acelerado entre empresas dos Estados Unidos, mas se disse preocupado com a corrida a nível global. Por enquanto, os dois principais players desse mercado são justamente as big techs dos Estados Unidos, mas a China também avança rápido.
Um risco à vida humana?
O alerta de Jacob também chamou atenção por tratar de riscos à vida das pessoas. Segundo o dev, as pessoas por trás das IAs “sinceramente” acreditam nisso. Outros especialistas envolvidos no desenvolvimento dos modelos atuais falaram sobre a situação e confirmaram seu receio.
Evan Hubinger, chefe do departamento de alinhamento científico da Anthropic, foi um deles. Em resposta a Jacob, ele afirmou que existe sim essa possibilidade, e que a empresa já se manifestou sobre os riscos. Anna Wang, ex-pesquisadora do Google DeepMind e atualmente na Anthropic, também fez coro às alegações de Jacob, dizendo que não há planos viáveis para frear os mecanismos de autoaperfeiçoamento recursivo das IAs.
Alguns pontos levantados pela Anthropic dão alguma materialidade para a preocupação. Por exemplo, a capacidade das IAs atuais atuarem por conta própria para driblar mecanismos de segurança, agirem de forma maliciosa e até mesmo desenvolverem armas químicas e biológicas.
Acordos em inteligência artificial podem ser um caminho
Jacob indicou uma ação coordenada de empresas de IA como o caminho interessante para buscar acordos que diminuam o ritmo do desenvolvimento da tecnologia nos EUA. Sua posição remete ao Project Glasswing, que reuniu empresas parceiras da Anthropic para estudar e desenvolver ferramentas de segurança antes do lançamento público do Claude Mythos.
A participação do governo dos Estados Unidos nesse grupo restrito também estava prevista, tanto que a administração Trump travou o lançamento das IAs mais recentes da empresa por um tempo. Ainda assim, não há notícias do envolvimento de outros governos no projeto.
Vale destacar iniciativas semelhantes envolvendo outro player de destaque em IA: a China. Recentemente, por exemplo, Brasil, Rússia e outros países do chamado Sul Global fundaram a Organização Mundial de Cooperação em Inteligência Artificial (WAICO, na sigla em inglês). Eles querem uma atuação conjunta para debater o desenvolvimento das IAs, inclusive para garantir uma abordagem humana para esta tecnologia.
Por: Yuri Hildebrand
