CEO da OpenAI afirma que erradicar totalmente golpes e invasões limitaria o potencial da tecnologia.
O CEO da OpenAI, Sam Altman, defende que a sociedade aceite “algumas coisas ruins” sobre o uso da inteligência artificial para preservar os benefícios e a autonomia proporcionados pela tecnologia. Segundo ele, tentar impedir todos os danos teria um custo alto demais.
A declaração foi dada ao programa Decoded by Politico no momento em que Altman foi questionado sobre as diferenças entre a posição da OpenAI e empresas como a Anthropic em relação à segurança e à regulamentação.
“Uma das diferenças entre nós e alguns dos defensores mais rígidos da segurança da IA é que nós acreditamos que o mundo deveria aceitar que algumas coisas ruins aconteçam em troca dos benefícios dessa tecnologia e de as pessoas terem autonomia”, diz o CEO.
De acordo com o executivo, a regulação mais branda “vem acompanhada da aceitação do fato de que algumas coisas ruins vão acontecer enquanto a sociedade descobre a sua resiliência”.
Altman rejeita eliminar todos os riscos
Durante a entrevista, Altman explicou que não aceitaria um acordo no qual a OpenAI tivesse que garantir a eliminação de grandes ataques hackers, golpes, fraudes e outros usos indevidos da tecnologia. Na avaliação dele, esse nível de segurança restringiria demais o acesso.
A tecnologia tem potenciado ataques cibercriminosos nos últimos anos, seja para para a criação de códigos maliciosos usados em tentativas de invasão, seja para auxiliar em golpes “tradicionais”, como phishing.
Mas, para o executivo, esses usos são muito menores que os benefícios proporcionados pela IA. Ao mesmo tempo, Altman afirma que a sociedade pode assumir riscos conhecidos em troca desses benefícios, o que não significa que deve aceitar ameaças catastróficas, como a perda de controle sobre a tecnologia.
Empresa enfrenta problemas com modelos de IA
Sam Altman comentou sobre segurança da inteligência artificial em um momento de crescente preocupação com sistemas autônomos. Nos últimos meses, agentes de IA se envolveram em episódios de ações não autorizadas. No caso da OpenAI, agentes em testes de segurança chegaram a invadir sistemas de terceiros, incluindo a plataforma Hugging Face.
No entanto, os problemas já estavam presentes no ChatGPT. No ano passado, a empresa foi forçada a criar novos sistemas de segurança após denúncias de que a tecnologia teria motivado a morte de usuários. Mesmo sabendo que as ocorrências se davam, em partes, pelo estilo de comunicação do modelo GPT-4o, a empresa resistiu em tirá-lo de circulação.
Até mesmo ex-funcionários apareceram para criticar as prioridades de empresas como a OpenAI e Google, que estariam focando em lançamentos em sequência sem trabalhar em mecanismos de segurança durante o desenvolvimento.
Altman critica postura de Elon Musk
A entrevista também abordou a relação entre Altman e Elon Musk, que cofundou a OpenAI em 2015 e hoje mantém uma disputa judicial com a empresa e seu atual CEO. Ao falar sobre a possibilidade de trabalhar com Musk, Altman não poupou críticas ao bilionário e o classificou como um bully (“valentão”).
“Não gosto de bullies e acho que Elon é um bully“, disse. Ainda assim, ele afirma que pretende continuar trabalhando com Musk quando houver interesses em comum: “De vez em quando, você precisa dar um soco de volta no nariz de um bully. Acho que Elon […] só respeita as pessoas que fazem isso.”
Por: Felipe Faustino
