Em vez de começar a discutir IA em termos abstratos, as organizações deveriam se perguntar o que não pode acontecer com a tecnologia e criar mecanismos para prevenir o pior
A forma como as empresas gerenciam os riscos da inteligência artificial pode estar ficando obsoleta. Programas tradicionais de governança, baseados em políticas corporativas e comitês de supervisão, não estão conseguindo acompanhar a velocidade com que a tecnologia evolui. Em muitos casos, uma política leva mais de um ano para ser aprovada e já nasce desatualizada.
Para Reid Blackman, especialista em governança de IA e fundador da consultoria Virtue, as empresas deveriam passar a focar em seus “pesadelos éticos”, ou seja, os piores cenários possíveis envolvendo IA.
Em artigo publicado no Harvard Business Review, Blackman afirma que o “pesadelo ético” não faz parte do vocabulário corporativo tradicional, já que as empresas gostam de otimismo. Portanto, abrir uma reunião perguntando “Quais são os piores cenários possíveis?” pode deixar executivos desconfortáveis. Mas, segundo o autor, iniciar discussões a partir dos possíveis desastres é uma forma eficaz de lidar com os riscos trazidos pela tecnologia.
Segundo ele, em vez de começar a discutir IA em termos abstratos, as organizações deveriam se perguntar o que não pode acontecer com a tecnologia e criar mecanismos para prevenir o pior. Segundo Blackman, essa mudança de perspectiva traz cinco vantagens concretas em relação à abordagem tradicional.
A primeira é que ela define sucesso e fracasso em termos de resultados. Se a empresa está implantando IA em escala, avaliou seus pesadelos éticos e conseguiu não se deparar com eles, está indo bem. Se se encontrou com eleso, está falhando.
Outra vantagem é que essa estratégia comunica os riscos de forma universalmente compreensível para todos os funcionários, sem necessidade de tradução ou intermediários, do cientista de dados ao membro do conselho de administração.
A terceira questão é motivacional. Valores como justiça e transparência são fáceis de ignorar no dia a dia (além de não serem os mesmos para todo mundo), mas um pesadelo concreto, com consequências reais, pessoas afetadas e exposição legal e reputacional, gera urgência.
Pesadelos, diz o especialista, criam alinhamento interno: enquanto executivos podem discordar sobre o que “justiça” significa na prática, praticamente ninguém quer que a empresa discrimine grupos protegidos em escala, gere informações incorretas em documentos para clientes ou manipule consumidores.
Por fim, a quinta vantagem é que a descrição de um pesadelo inclui naturalmente a descrição de como ele se origina. Ao entender o caminho que leva ao desastre, a organização consegue criar estratégias específicas para não percorrê-lo — e agir antes que o pior aconteça.
Antídoto contra o pesadelo
O autor propõe um método chamado Ethical Nightmare Challenge (“Desafio do Pesadelo Ético”), que gira em torno de três perguntas:
- Quais são os pesadelos éticos da sua organização relacionados ao uso de IA?
- Que recursos você irá criar para evitar esses pesadelos?
- Como irá treinar as pessoas para utilizar esses recursos de forma eficaz?
Segundo Blackman, uma das maiores virtudes dessa estrutura é sua versatilidade, já que qualquer pessoa na organização pode fazer essas perguntas de acordo com sua área de atuação. O conselho e a alta liderança, por exemplo, podem refletir sobre os pesadelos da empresa como um todo. O diretor de RH ou de marketing pode pensar nos riscos específicos de sua área. Já o líder de um produto baseado em IA pode aplicar as perguntas à sua solução em particular.
Depois de identificar os pesadelos, é hora de partir para a implementação. Isso é feito por meio da criação do que ele chama de equipes ENC (Ethical Nightmare Challenge). Essas equipes podem ser criadas em qualquer nível da organização e em qualquer momento. Ele afirma que são grupos pequenos, normalmente entre cinco e oito pessoas, e multidisciplinares, contando pelo menos com um profissional técnico. E o aspecto fundamental é a velocidade.
A missão central de cada equipe é trabalhar continuamente sobre as três perguntas fundamentais da metodologia. Esses grupos se dedicam à resolução colaborativa de problemas relacionados aos potenciais pesadelos identificados. Em um nível mais amplo, eles representam a capacidade organizacional de evitar desastres relacionados à IA.
Quando as três perguntas são repetidas de forma consistente em todos os níveis da organização, cria-se uma linguagem comum que torna possível a comunicação e a colaboração entre todos esses níveis, segundo o autor. E, como todos estão falando a mesma língua, tornam-se capazes de resolver problemas em conjunto, em vez de se envolver em disputas entre departamentos.
O especialista argumenta que esse modelo também ajuda a evitar que comitês de governança se tornem gargalos. Em vez de concentrar todas as decisões em um grupo central, a responsabilidade pela identificação e mitigação dos riscos passa a ser distribuída pela organização.
Para Blackman, o objetivo não é substituir completamente programas de governança já existentes, mas complementá-los com uma abordagem mais ágil e voltada para resultados concretos. Em vez de perguntar apenas se a empresa possui políticas de IA, a proposta é avaliar se ela consegue identificar seus maiores riscos e agir rapidamente para evitá-los.
Por: Thâmara Kaoru
