Por que os orçamentos de IA não funcionam
O erro está em gerenciar a IA como uma despesa tecnológica, em vez de como um sistema econômico. A IA não é como um software, que tem uma estrutura de custos muito mais previsível: você compra licenças, paga taxas de licença, sabe quanto vai pagar, e os custos só aumentam quando o número de usuários cresce ou quando os contratos são renovados.
Com a IA, essa previsibilidade desaparece. Os custos aumentam não apenas com o número de pessoas, mas também com o que elas solicitam, o nível de complexidade do raciocínio do modelo e a quantidade de trabalho que passa pelos seus sistemas. Cada vez mais, os usuários não são pessoas, mas sim agentes e fluxos de trabalho automatizados que utilizam recursos de inferência 24 horas por dia, sem a necessidade de contar com postos de trabalho humanos ou licenças limitadas.
Em praticamente todas as implantações que analisamos, incluindo a nossa, uma pequena parcela é responsável pela maior parte dos gastos: menos de 10% dos usuários e fluxos de trabalho são responsáveis pela grande maioria da conta. A pressão é constante; em alguns dos nossos ambientes, recebemos centenas de solicitações por dia para aumentar os limites de gastos individuais.
À medida que a IA se torna cada vez mais presente nas empresas, o consumo aumenta a cada novo fluxo de trabalho, agente e modalidade. Chatbots tornam-se agentes. Agentes tornam-se equipes de agentes. O texto se expande para a geração multimodal, incluindo imagens, vídeos e áudio. E na ponta física, os robôs autônomos utilizam a mesma infraestrutura de inferência, na qual cada decisão e exceção acarreta um custo específico que a empresa não havia previsto. À medida que os casos de uso se multiplicam, a curva de consumo cresce exponencialmente. O Goldman Sachs projeta que o consumo de tokens chegará a cerca de 120 quatrilhões de tokens por mês até 2030, o que representa cerca de 24 vezes o nível atual. As empresas que tomam o consumo atual como referência fazem planos com base em um cenário que não vai durar.
A segurança representa mais um custo oculto, e não é algo que qualquer organização possa se dar ao luxo de ignorar. Quanto mais modelos, agentes, dados e sistemas conectados uma empresa adiciona, mais ela precisa proteger. Esse trabalho de defesa (varredura constante, controles de acesso mais rigorosos, monitoramento de ameaças e resposta rápida) impõe um custo oculto a cada implantação. Isso raramente aparece no plano de custos inicial, mas aumenta a cada novo agente e conexão.
Esse é o paradoxo de Jevons aplicado à IA: assim como os motores a vapor mais eficientes aumentaram o consumo de carvão na Grã-Bretanha em vez de reduzi-lo, a queda nos preços dos tokens leva as empresas a utilizar mais IA, e não menos, já que trabalhos que antes eram caros demais para se justificar de repente passam a fazer sentido financeiro.
Nossa simulação[3] revelou que, se os preços dos tokens caíssem 25% hoje, apenas 15% das organizações aproveitariam a economia resultante. As demais reinvestiriam em novos casos de uso, na ampliação das cargas de trabalho ou em modelos de melhor qualidade. Dizer aos funcionários para usarem menos IA não é a solução, pois isso limita os ganhos de produtividade que a IA tem como objetivo proporcionar. A solução é direcionar essa nova demanda para o modelo mais barato que cumpra bem a tarefa, de modo que, com o mesmo orçamento, se obtenha um trabalho mais útil e um retorno mais mensurável.
Há um segundo fator que é igualmente importante: a fronteira de Pareto, o melhor equilíbrio entre custo e valor. A maioria das empresas gasta mais do que o necessário em áreas em que o trabalho não justifica esse gasto, ou distribui mal as tarefas, deixando de gerar valor. As empresas mais sofisticadas eliminam essa lacuna, associando cada tarefa ao modelo adequado pelo custo certo e, em seguida, deslocam a própria curva de custos por meio da compressão de prompts, de um armazenamento em cache mais inteligente e da destilação de modelos.
Aqui está um exemplo concreto: uma apresentação resumida de fim de trimestre que antes levava 15 horas para ser elaborada por três analistas financeiros agora leva duas horas para uma única pessoa, a um custo simbólico de algumas centenas de dólares, em contrapartida a milhares de dólares em tempo economizado. Esse é o equilíbrio que as empresas líderes avaliam. O retorno não está nos tokens economizados, mas sim na capacidade liberada, redirecionada para tarefas de maior valor. Quando comparado a um resultado que a empresa já monitora, é nesse reinvestimento que os gastos com tokens se transformam em retorno.
Juntas, essas forças são a razão pela qual a tokenomics agora tem importância estratégica. À medida que as empresas otimizam para fazer mais com menos, a fronteira se expande: a qualidade melhora, os custos caem, surgem novos casos de uso e o consumo aumenta. A disciplina consiste em saber onde a IA gera valor, quando capturar as economias e como reinvesti-las.
A regra do modelo
A primeira regra é adequar o nível de inteligência ao valor e ao risco do trabalho. Aqui está um ponto de partida: em todos os setores, estimamos que apenas 10% a 20% das tarefas empresariais sejam complexas o suficiente para justificar o uso de capacidades de ponta ou quase de ponta.
O teste útil: se uma tarefa puder ser dividida em etapas bem definidas, provavelmente um modelo menor será suficiente. Recorra ao modelo de ponta apenas quando o trabalho for irredutivelmente complexo, quando a decomposição prejudicar a compreensão, quando os erros se acumularem ao longo de longas cadeias de agentes ou quando a resposta estiver na interseção entre julgamentos jurídicos, financeiros e regulatórios.
Alguns padrões atendem a esse critério. O raciocínio complexo é um exemplo disso. Quando um diretor de estratégia avalia a posição competitiva, as tendências macroeconômicas e os dados financeiros de um alvo de aquisição para identificar o verdadeiro risco estratégico, a tarefa envolve lidar com evidências contraditórias em tensão para chegar a um julgamento não óbvio. Além disso, fluxos de trabalho agênticos com alto custo de erro, nos quais uma única falha no meio da cadeia compromete todo o resultado. Outro exemplo é a síntese de contextos extensos: um pacote de due diligence de 200 páginas exige rigor e coerência em todo o documento.
Direcionar o trabalho para a inteligência adequada é uma escolha estratégica, não uma preferência técnica. Os líderes precisam de disciplina operacional: classificar o trabalho por complexidade e risco, encaminhá-lo ao nível adequado de inteligência e, em seguida, ajustar e monitorar o consumo ao longo do tempo. O difícil é saber qual trabalho é o mais importante.
As empresas que não conseguem distinguir tarefas rotineiras de trabalhos que exigem maior capacidade cognitiva e agregam maior valor acabarão fazendo alocações inadequadas em ambos os sentidos: utilizando modelos caros onde não são necessários e modelos menos eficazes quando há vantagens em jogo. A experiência da Accenture mostra que a capacidade do modelo, por si só, não determinará quem sairá vitorioso na corrida pela IA. A disciplina econômica, sim.
Essa mesma disciplina ajudou uma operadora de telecomunicações a reduzir em 68% seus gastos anuais com IA. Em cada caso, o avanço decisivo veio ao analisar o consumo no nível do fluxo de trabalho e, em seguida, redirecionar, ajustar ou reprojetar o trabalho antes que o desperdício se tornasse um custo operacional normal.
O mandato da alta liderança
Na maioria das empresas, os custos com IA são contabilizados no orçamento de tecnologia, enquanto o valor gerado aparece em outras áreas, como no atendimento ao cliente, na engenharia, no marketing ou em qualquer unidade de negócios que utilize a ferramenta. O CFO vê os custos, o CIO vê o uso e os líderes de negócios veem os resultados, mas essas perspectivas raramente se conectam em nível empresarial.