Proteger modelos de IA da deterioração já é mais importante do que criar novos

A corrida pela adoção de inteligência artificial nas empresas está entrando em uma nova fase. Mais do que desenvolver novos modelos, o principal desafio agora é garantir que eles não se deteriorem ao longo do tempo. A avaliação é de Luiz Fialho, CFO e Chief AI Officer da Dattos, durante participação na 8ª edição do Payment View, realizada no Inovabra, em São Paulo.

Segundo o executivo, a commoditização do código, da automação e dos próprios modelos de IA mudou a lógica competitiva do mercado. “Hoje, a capacidade de criar um modelo deixou de ser o principal diferencial. O mais importante é garantir governança, sustentação e evolução contínua desses sistemas”, afirmou.

Especializada em automação e inteligência aplicada à gestão financeira, a Dattos atua em mais de 25 países da América e Europa e processa mais de 30 bilhões de dados por mês. Os clientes da empresa somam cerca de R$ 1,1 trilhão em faturamento. Entre eles Nubank, Colgate-Palmolive, Natura, Mercedes-Benz e BTG Pactual

Atualmente, cerca de 20% do portfólio da companhia é composto por instituições financeiras, segmento que se tornou estratégico devido ao alto volume e à complexidade das operações. Ainda assim, a empresa mantém forte presença em indústria e varejo, que concentram aproximadamente 60% da base de clientes.

Durante o evento, Fialho destacou que a inteligência artificial já consegue automatizar praticamente qualquer processo financeiro. Entre os casos mais avançados, ele citou aplicações em gestão de tesouraria, execução de transações bancárias, direcionamento de aprovações, controle de saldos, gestão de investimentos, conciliação financeira, fechamento contábil e gestão de riscos.

O executivo, no entanto, fez um alerta importante sobre o nível de confiabilidade exigido no setor financeiro. “Em automação financeira, 95% de assertividade é errado. Não serve. Precisamos de algo muito próximo de 100%, principalmente porque estamos lidando com dinheiro, aprovação e governança”, afirmou.

Para ele, o grande desafio não está apenas em implementar IA, mas em evitar que os modelos percam eficiência, contexto e confiabilidade com o tempo. “Muitas empresas acreditam que podem simplesmente substituir pessoas por modelos de IA. Mas quem sustenta esses processos depois? Quais são as regras de manutenção? Como garantir que eles continuem funcionando adequadamente daqui a alguns meses ou anos?”, questionou.

Segundo Fialho, uma das principais preocupações da Dattos atualmente é justamente impedir a deterioração dos processos automatizados. A estratégia da empresa é utilizar IA para criar processos determinísticos, com regras claras de atualização e mecanismos contínuos de validação.

Ele também avalia que a IA abre espaço para fintechs brasileiras ampliarem presença internacional com mais facilidade. “As fintechs precisam olhar de forma mais global. A IA possibilita entrar em novos mercados e construir soluções mais relevantes em escala internacional”, disse.

Apesar do potencial, Fialho reforçou que a expansão da automação financeira depende diretamente de governança. “Se você não tem controle, não tem governança e não consegue entender claramente o que está acontecendo, então não funciona. No processo financeiro, precisamos garantir que os números batem, saber quem aprova cada etapa e manter rastreabilidade total”, concluiu.

Na avaliação da Roboteasy, empresa especializada em hiperautomação com IA, o momento atual não caracteriza uma transformação digital estruturada, mas sim uma “adoção acelerada sem coordenação”. "Entre os sinais mais evidentes estão o uso pulverizado de ferramentas, a ausência de documentação e de responsáveis claros pelos processos automatizados, e a falta de políticas definidas para uso de dados", destaca Daniel Torres, CEO da Roboteasy.

Se, em um primeiro momento, a adoção de IA traz ganhos pontuais de eficiência, os efeitos colaterais começam a surgir à medida que essas iniciativas se multiplicam sem coordenação: as empresas passam a conviver com operações fragmentadas, em que diferentes fluxos utilizam lógicas distintas e produzem resultados inconsistentes.

Entre os principais impactos estão a divergência de dados entre áreas, falhas de integração entre sistemas, e decisões automatizadas sem qualquer trilha de auditoria. "Em muitos casos, processos que deveriam reduzir esforço acabam gerando retrabalho oculto quando uma automação precisa ser corrigida manualmente ou validada posteriormente", diz Torres.

Outro ponto crítico é a dependência de pessoas-chave. Sem documentação ou padronização, quem desenvolve a automação passa a ser "o dono informal" daquele fluxo, concentrando conhecimento e aumentando o risco operacional. Assim, o ganho de eficiência localizado começa a produzir o efeito inverso na operação como um todo. "A eficiência local começa a gerar ineficiência sistêmica", resume Daniel. Para além dos impactos operacionais, o uso desestruturado de IA atinge um nível mais sensível: a governança corporativa.

À medida que decisões passam a ser automatizadas sem controle central, as empresas começam a perder visibilidade sobre seus próprios processos. "A ausência de rastreabilidade dificulta auditorias internas e externas, compromete a capacidade de explicar decisões automatizadas e amplia a exposição a riscos jurídicos e regulatórios", destaca Daniel. "Em setores mais sensíveis, esse cenário pode gerar implicações diretas em compliance."

O executivo diz que, na base de clientes da Roboteasy, é comum encontrar em diagnósticos iniciais empresas com dezenas de automações em funcionamento, muitas vezes entre 10 e 30 fluxos, operando sem qualquer controle central. "Parte desses processos envolve atividades críticas rodando a partir de scripts ou modelos de IA sem versionamento, o que impede acompanhamento de mudanças e aumenta o risco de erro", conta o CEO. "Ao mesmo tempo, equipes criam automações fora da estrutura de TI para ganhar velocidade, reforçando a fragmentação da operação."

O especialista afirma que o desafio central no que diz respeito à organização da IA está na forma como ela é incorporada à operação. "Isso implica uma mudança de abordagem. Em vez de iniciativas isoladas, a empresa passa a tratar automação e IA como parte de um sistema estruturado, com regras, processos e governança definidos", explica. "É a transição de uma lógica orientada por ferramentas para um modelo orientado por operação." define.

Apesar de agilizar a massificação da tecnologia, a commoditização dos códigos, da automação e dos próprios modelos de IA trazem o risco da banalização e da consequente criação de sistemas ineficientes que mais podem atrapalhar do que ajudar nas tarefas das empresas. Desta forma, o alerta para um olhar atento à manutenção do nível elevado de assertividade dos projetos deve ser levado muito a sério. Afinal, desenvolver iniciativas em IA apenas para não ficar de fora da onda, mas não conseguir extrair deles ganhos em termos de eficiência operacional trará impactos financeiros negativos e grande desperdício de energia das equipes.

Os projetos de IA não podem mais ser programados pensando apenas nas necessidades dos desenvolvedores. Para que eles funcionem corretamente por longos períodos é preciso que haja um olhar muito atento e criterioso para a governança desses modelos. É preciso que se saiba com clareza estratégica quem sustenta esses processos depois, quais são as regras de manutenção e, como garantir que eles continuem funcionando adequadamente daqui a alguns meses ou anos. Sem essas definições, o risco de ter um sistema funcionando por três meses que deixe de ser útil a partir deste momento é muito grande.