Líderes precisam estar cientes dos possíveis gargalos operacionais da IA generativa e também dos custos ao definir critérios para a adoção bem-sucedida da tecnologia, a fim de obter o máximo valor
“Ao contrário do que notávamos num passado recente, quando as iniciativas em IA analítica justificavam a maior parte dos investimentos, hoje é a IA generativa que vem concentrando as atenções e intenções da maior parte da liderança de mercado e desses investimentos todos”, avalia Edgar Garcia, VP da UiPath para a América Latina. A UiPath é líder global no desenvolvimento de softwares de automação corporativa.
Segundo Garcia, os líderes empresariais enxergam potencial crescente na IA generativa para a solução de problemas, pois essa tecnologia pode ser usada para automatizar processos demorados, criar experiências personalizadas do cliente e contribuir para a geração de novas ideias, inclusive no setor de design.
“Já existem casos de uso bem-sucedido de IA generativa em indústrias como a moda”, diz o executivo. Mas, ao reconhecer o potencial, os líderes devem ser atenciosos em sua abordagem.
“É necessário que a liderança seja bem aconselhada a respeito dos riscos inerentes ao uso de IA generativa para saber como atenuá -los”, completa.
Garcia pontua os seguintes exemplos de riscos que os líderes devem estar cientes ao avaliar como implementar IA generativa em seus negócios:
Alucinações – A IA generativa pode produzir resultados imprecisos ou enganosos, especialmente ao lidar com dados ou imagens complexas. É o que o setor geralmente chama de “alucinação”. Este fenômeno pode ser uma desvantagem significativa sobretudo em indústrias altamente regulamentadas, como serviços de saúde ou financeiros, onde a consistência e a precisão de informações tendem a ser extremamente importantes.
DeepFakes – Os algoritmos de IA generativos podem produzir mídia com base em padrões aprendidos a partir de dados existentes. No entanto, seu uso indevido pode levar à criação de informações fakes – como vídeos ou imagens manipuladas – espalhando desinformação. O grande problema é que, como se sabe, a criação de mídia falsa e altamente realista pode trazer sérios danos a quem consome o conteúdo e à organização que o gera.
Transparência – A IA generativa pode ser “opaca”, dificultando a compreensão de fluxos, ou seja, de como decisões e conclusões foram consolidadas. Essa falta de transparência pode levar à desconfiança e pode dificultar a explicação de seus resultados às partes interessadas.
Questões legais e éticas – Como em qualquer tecnologia de IA, a IA generativa levanta questões legais e éticas relacionadas à privacidade de dados, propriedade intelectual e vieses. Desta forma, vale a pena reiterar que os líderes empresariais devem sempre cumprir leis, regulamentos relevantes e regras do compliance, além de se antecipar a qualquer preocupação ética relacionada ao uso da IA generativa.
Preocupações com segurança e privacidade – A IA generativa depende de usuários que compartilham grandes quantidades de dados para gerar novos conteúdos. Embora isso forneça aos modelos de IA generativos mais dados para o treino e aprendizagem, também faz com que essas informações fiquem mais vulneráveis a violações de segurança. Os executivos precisam, assim, garantir medidas de segurança contra vazamentos, adequadas à proteção de seus dados e os de seus clientes.
Como em qualquer inovação e tecnologia emergente, os líderes precisam estar cientes dos possíveis gargalos operacionais da IA generativa e também dos custos ao definir critérios para a adoção bem-sucedida da tecnologia, a fim de obter o máximo valor. “Ninguém faz isso sozinho, sem a ajuda de profissionais especializados. É preciso ter em mente que a IA generativa é apenas mais um facilitador da transformação digital de ponta a ponta, uma peça de um quebra-cabeça maior. Portanto, trabalhar com uma plataforma de automação de negócios, como a UIPATH, capaz de integrar diferentes tecnologias é uma estratégia eficaz. Ela traz mais segurança ao processo e mais valor comercial e operacional para o uso da tecnologia, pois não será uma tecnologia independente, e sim algo dentro de uma plataforma de ponta a ponta em um ambiente controlado ”, disse Garcia.
