Um em cada quatro executivos ouvidos por pesquisa internacional relata erro de sistema de inteligência artificial que chegou a públicos externos ou ao conselho de administração. A pergunta seguinte nunca é técnica.

Empresas já delegam parte de suas decisões a sistemas de inteligência artificial. O que ainda não está resolvido é quem responde quando essas decisões saem erradas.

Pesquisa de meio de ano da Workiva com 2.272 profissionais de finanças, risco e sustentabilidade, incluindo 847 executivos de nível C, aponta que 26% relatam que auditorias internas detectaram erros de IA que chegaram a públicos externos ou a membros do conselho de administração. Na mesma base, 84% se dizem ao menos parcialmente confiantes na precisão de resultados de IA sem revisão humana.

A delegação já é assunto formal de governança. Pesquisa da Board Intelligence com 400 conselheiros, CEOs e diretores financeiros, divulgada em junho, mostrou que 84% dos entrevistados no Reino Unido já discutiram até onde a decisão humana pode ser delegada à tecnologia, e quase metade já partiu para a implementação.

Quando o erro de um sistema chega ao conselho, a pergunta que se segue nunca é sobre arquitetura de dados. É sobre com base em quê aquela decisão foi tomada, e quem responde por ela. Nesse momento, segundo a Grand Thera Technologies (grandthera.com), deeptech sediada em Florianópolis, uma plataforma que só sabe dizer de onde veio o número não protege ninguém.

A empresa defende que existe uma diferença entre rastrear e sustentar. Rastrear é mostrar o caminho do dado até a resposta. Sustentar é mostrar quais fontes foram consideradas e quais foram descartadas, que peso cada uma recebeu, qual o grau de incerteza da conclusão e o que mudaria se uma das evidências caísse.

“A sequência que importa para quem decide é sinal, decisão e evidência auditável. Se o sistema não consegue mostrar a terceira parte, ele não entrou na sala de decisão, ficou na camada de produtividade”, diz Fernando Negrini, CEO da companhia.

O problema não é de adoção nem de qualidade do modelo, segundo a empresa, mas de camada. A categoria hoje chamada de enterprise AI foi fundada na década de 2010 por companhias como Palantir e C3.ai. Uma década depois, a execução se padronizou, e previsões de mercado para 2026 já tratam blocos de construção agênticos como oferta comoditizada. Quando a capacidade vira componente, a entrega da maioria dos fornecedores converge para automação de tarefa e ganho de produtividade.

Para conselheiros e administradores, isso tem efeito prático imediato. Responsabilidade fiduciária não se delega a fornecedor. Quem aprova uma decisão continua respondendo por ela, independentemente de quantas camadas de software participaram do processo.

A aposta da deeptech é que o próximo critério de compra em IA corporativa não será a capacidade de gerar respostas, nem a de organizá-las, mas a de sustentá-las diante de quem tem responsabilidade pelo que foi decidido. Enquanto isso não estiver na especificação da compra, a assinatura continua sendo humana e a explicação também.