Presidente Brad Smith compara IAs a produtos cotidianos, enquanto CEO Satya Nadella defende um “freio de emergência” para interromper modelos.
As inteligências artificiais estão sujeitas a menos exigências de segurança do que produtos cotidianos, como máquinas de lavar e caixas de leite. É o que afirmo o presidente da Microsoft, Brad Smith, que defendeu regras mais rígidas e a criação de normas de monitoramento e responsabilização das empresas por acidentes.
Em entrevista à BBC, Smith disse que “toda caixa de leite que você vê na mercearia passa por regras de segurança e inspeção” e que, por isso, “sabemos que ele é seguro”. Para ele, é esse tipo de confiança que a indústria precisa gerar para a IA.
Entre as medidas que possibilitariam isso estão notificações de pessoas afetadas por incidentes e avaliações independentes de sistemas avançados antes da liberação pública. A defesa de regras mais rígidas também se soma à posição do CEO da Microsoft, Satya Nadella, favorável à criação de mecanismos para pausar ou desligar modelos de IA que apresentem comportamentos inesperados.
Nadella quer “freio de emergência” para IA
Em uma publicação no X, Nadella afirmou que as empresas precisam considerar a possibilidade de seus sistemas serem comprometidos e garantir que pessoas autorizadas possam interromper suas operações. “Devemos presumir que um modelo está comprometido e contê-lo desde o início”, escreveu o CEO.
“Pense nisso como um freio de emergência. Qualquer pessoa autorizada deve ser sempre capaz de pausar ou desligar um modelo no meio de uma tarefa. Modelos mais avançados exigirão tecnologias de contenção mais avançadas que precisamos padronizar.”
Satya Nadella, CEO da Microsoft
O mecanismo, conhecido como kill switch, permitiria interromper uma tarefa caso o sistema representasse algum risco. Nadella também defende separar o modelo de IA dos mecanismos responsáveis por coordenar e executar suas ações, além de padronizar tecnologias de contenção.
Microsoft questiona limites da autorregulação
A cobrança contrasta com a preferência do governo de Donald Trump por uma abordagem mais favorável à autorregulação do setor. O presidente dos Estados Unidos reuniu no fim de setembro representantes de gigantes da tecnologia, incluindo OpenAI, Anthropic, Google e Meta, para a assinatura de um compromisso de segurança que prevê colaboração com mecanismos de supervisão e auditorias.
Smith elogiou a iniciativa, mas afirmou que compromissos voluntários não são suficientes para garantir que todas as empresas adotem práticas responsáveis.
“É um bom passo, é um passo necessário… Mas não acho que seja suficiente por mais tempo […] as empresas boas farão o que você pede. São as companhias que não são responsáveis que devem nos preocupar”.
– Brad Smith, presidente da Microsoft
OpenAI, Anthropic e Meta estiveram entre as desenvolvedoras de IAs que afirmaram ter tido problemas com modelos em treinamento “fugindo” de ambientes de testes, acessando a internet e inclusive hackeando sistemas de terceiros, como no caso do repositório Hugging Face.
As revelações acabaram promovendo, ainda que indiretamente, as capacidades agênticas de alguns modelos e deram mais força aos críticos das práticas de segurança das empresas.
Por: Felipe Faustino
