Mesmo com o preço dos tokens caindo, a complexidade crescente dos agentes de IA está elevando o gasto total das empresas
A migração de chatbots simples para fluxos de trabalho agênticos mais sofisticados pode esbarrar em seu primeiro grande obstáculo: o custo. Um relatório da consultoria Gartner aponta que, embora o preço unitário dos tokens de inteligência artificial venha caindo, o gasto total das empresas com IA tende a continuar subindo, porque os fluxos de trabalho ficam cada vez mais complexos à medida que ficam mais baratos. O fenômeno foi batizado pela consultoria de “paradoxo da inferência”: ganhos de eficiência no preço por token são anulados pelos custos associados ao uso de capacidades de IA mais avançadas.
Segundo o Gartner, três tendências se combinam para produzir esse efeito: a melhora na economia de custos dos modelos de base, o ganho de eficiência que permite aplicações de IA mais sofisticadas e o maior consumo de tokens por fluxos de trabalho complexos, em comparação com chatbots tradicionais.
Leia mais: Ataques DDoS sobem 121% em junho e atingem maior volume do ano
Will Sommer, diretor sênior de pesquisa da Gartner, explica que a diferença de custo entre um chatbot simples e um agente de IA está na natureza da tarefa: enquanto o primeiro apenas interpreta uma pergunta e responde de forma direta, o agente precisa raciocinar, negociar e se questionar constantemente ao longo de várias etapas. Segundo o estudo, o uso de um modelo de raciocínio agêntico, em vez de um chatbot básico, pode multiplicar por cinco o custo de inferência — multiplicador que tende a crescer ainda mais conforme a complexidade da tarefa aumenta.
Para Sommer, líderes de produto não podem mais contar apenas com a queda no preço dos tokens para justificar economicamente seus investimentos em IA. “Cada nova geração de capacidade de inteligência artificial vai exigir mais tokens, e frequentemente tokens mais caros”, afirmou o analista, acrescentando que não existe hoje um modelo único, confiável e econômico capaz de atender a todas as necessidades — construir produtos de IA competitivos exigirá manter ecossistemas complexos com vários modelos ao mesmo tempo.
O relatório do Gartner sugere que as implicações do paradoxo da inferência ainda não foram plenamente compreendidas pelas empresas que avançam com soluções agênticas. Entre as saídas possíveis estariam parcerias entre corporações para dividir o desenvolvimento de agentes de IA e assim diluir custos, mas a tendência geral, segundo os analistas, é de aumento tanto no volume quanto no valor gasto em tokens, à medida que os modelos e os agentes ficam mais sofisticados.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
Redação
Redação
Redação
Redação
Meridiano
