A era do consumo de tokens sem limite acabou, diz chefe de IA da Microsoft

Há pouco mais de um ano, a Microsoft acabou com a independência do GitHub, a maior plataforma de desenvolvedores de software do mundo, e o colocou sob a CoreAI, divisão de inteligência artificial comandada por Jay Parikh. Ex-chefe global de engenharia da Meta e vice-presidente executivo da Microsoft, Parikh administra agora uma transição delicada. Em 1º de junho, o GitHub Copilot, assistente de programação da empresa, manteve o preço das assinaturas, mas estabeleceu um teto para o consumo de tokens as unidades em que a IA processa texto e código. A justificativa é que os agentes de IA hoje trabalham por horas a fio, e o GitHub vinha bancando boa parte desse custo, num modelo que a própria empresa chamou de insustentável. Para quem usa a ferramenta com intensidade, a conta disparou, e muitos desenvolvedores protestaram. Parikh conversou com VEJA NEGÓCIOS antes do GitHub Universe, a conferência anual da plataforma, quee começa nesta quarta-feira, 29.

Outubro tem sido marcado por uma onda de ataques cibernéticos turbinados por IA. O que está acontecendo? Não é algo novo. Empresas são invadidas há décadas. O que mudou foram o ritmo e a magnitude. Com modelos e agentes cada vez mais capazes, a IA explora uma área muito ampla em pouco tempo e encontra vulnerabilidades, falhas de configuração e sistemas legados, inclusive bugs escondidos há mais de dez anos em softwares que ninguém tinha percebido. Ela também entende como uma brecha abre outra, e encadeia essas falhas. Vulnerabilidades que levavam meses para serem encontradas agora levam dias, horas, minutos. Como toda tecnologia de propósito geral, a IA traz o bom e o não tão bom.

Quase todos os desenvolvedores do mundo usam o GitHub. Isso faz da plataforma um alvo maior? Os hackers têm motivações diferentes. Muito do que aparece no noticiário envolve sistemas proprietários, que rodam e são gerenciados fora do GitHub. Mas somos a casa da maior comunidade de desenvolvedores do planeta, e encaramos isso com grande seriedade. Investimos muito na segurança da própria plataforma e em ferramentas para a comunidade e as empresas. Há anos oferecemos varredura de código. Agora vamos complementá-la com ferramentas de varredura mais sofisticadas, baseadas em IA, que devem dar mais profundidade e abrangência à análise dos repositórios. Para nós, trata-se de provar que é possível ganhar velocidade sem sacrificar a qualidade.

O GitHub passou a permitir que agentes de rivais, como o Claude Code, da Anthropic, e o Codex, da OpenAI, trabalhem dentro da plataforma. Qual é a lógica de negócio? A Microsoft é, há mais de 51 anos, uma empresa de plataforma. E desenvolvedores querem escolha. Programar tem algo de artesanato, em que cada um tem suas ferramentas preferidas e seu jeito de construir. A velha forma de produzir software está ruindo, e ainda estamos no começo do começo dessa mudança. Nosso papel é ser o lugar onde todo esse código vai viver, venha ele do Claude Code, do Codex, do Copilot ou de qualquer outro, e ajudar a testá-lo e colocá-lo em produção. Qual ferramenta usar é escolha sua.

Novos modelos de IA aparecem o tempo todo, e a diferença entre eles é cada vez mais difícil de entender para o usuário médio. Como as empresas podem lidar com isso? Diferentemente de laboratórios como a Anthropic e a OpenAI, não prendemos ninguém ao modelo de uma única empresa. No Copilot, dá para usar modelos da OpenAI, da Anthropic, de código aberto e da própria Microsoft, e equilibrar qualidade, velocidade e custo conforme a necessidade. Também queremos facilitar essa escolha. No Universe vamos apresentar o GitHub Copilot Fusion, um modelo orquestrador que, a partir da intenção do usuário, escolhe o modelo, ou mesmo uma combinação de modelos de empresas diferentes, certo para cada tarefa. É o oposto de ficar preso num silo, num jardim murado, com uma única empresa de modelos.

Até maio, a assinatura do Copilot dava direito a uma cota fixa de pedidos, e uma pergunta rápida custava o mesmo que uma sessão de horas de um agente. Desde junho, o preço das assinaturas é o mesmo, mas a franquia virou um crédito em dólar, descontado conforme os tokens consumidos. O GitHub chegou a dizer que o modelo anterior era insustentável. O que aconteceu? O modelo antigo fazia sentido quando o Copilot servia sobretudo para completar linhas de código, sugerir a próxima edição e responder a perguntas sobre o código. O programador ainda estava no editor e sabia o que era cada linha. Eram, basicamente, perguntas e respostas, e o modelo de negócio funcionava para isso. Mas os modelos melhoraram, e também o software que executa os agentes, e o setor passou a pedir tarefas mais longas, mais complexas e em maior quantidade. Uma única solicitação pode ficar rodando por 30 minutos, consumindo tokens. Tivemos de alinhar nossa estrutura de custos a esses trabalhos mais complexos, de maior valor, e adotamos a cobrança por uso. Não fomos os primeiros. O setor inteiro passou a cobrar assim. Estamos só nos juntando aos demais.

Para quem usa agentes com intensidade, a conta ficou bem mais cara. Desenvolvedores relataram ter gastado em poucas horas o crédito previsto para um mês inteiro, e alguns ameaçaram abandonar o Copilot. O uso caiu? Os clientes reclamaram? A transição deu muito trabalho, para nós e para ajudar nossos clientes a atravessá-la. Quem quiser continuar trabalhando do jeito antigo pode. Se você abrir um editor como o VS Code, digitar código e usar o autocompletar e as sugestões de próxima edição, tudo isso continua funcionando, e temos de dar suporte a isso. Mas quem está queimando, digamos, milhões de tokens por dia está fazendo muito mais coisa, concluindo muito mais trabalho, presumivelmente. O que precisamos é mostrar o valor do produto nesse novo comportamento de consumo, e muito do que será o Universe é isso: aproveitar vários modelos, fazer mais e manter a qualidade. Temos vários tipos de revisão de código, alguns econômicos, outros muito, muito minuciosos. O desenvolvedor escolhe o que funciona para ele.

O preço do token está caindo, mas o gasto das empresas com IA continua subindo. Como controlar a conta? É prioridade em toda organização que está ampliando o uso de IA. Gastar muito dinheiro está na cabeça de todo mundo. É assustador, a pessoa pensa: Meu Deus, eu não planejei gastar tanto. Atacamos o problema em três frentes. Primeiro, mostrar os dados: quem usa, como usa e qual é o retorno. Se eu der 1 milhão de tokens a um funcionário, qual é o ROI para o negócio? Devo dar 5 milhões? Ou 100 000? Segundo, orientar a otimização. Como podemos usar vários modelos e temos nosso próprio harness, que economiza tokens, o cliente não precisa fazer esse trabalho braçal. Terceiro, governança: políticas e limites. Na Microsoft temos tetos internos; quem tem um projeto especial pode pedir uma exceção. A era do consumo de tokens sem limite acabou.

Vocês vão até as empresas ensiná-las a gerenciar esse gasto? Sim, e o próprio produto oferece recursos para isso. Mostramos o histórico de uso e o que está acontecendo, e damos recomendações, tanto no produto quanto, para contas corporativas, com nossas equipes comerciais e de campo, que sentam com o cliente para revisar o uso, boas práticas e orientações. E o cliente pode estabelecer limites rígidos para não ter custos descontrolados.

No Brasil, as empresas parecem bem atrás das americanas na adoção de IA, embora os brasileiros sejam conhecidos por abraçar tecnologia cedo. O que separa quem avança de quem fica para trás? Nunca vi, na minha carreira, uma tecnologia com uma amplitude tão grande de compreensão, de uso e de conforto. Converso com centenas de clientes. Alguns ainda acham que a IA não é relevante para eles. Aqui no Vale do Silício, há gente trabalhando de formas que parecem alienígenas. É muito impressionante, mas às vezes também intimidador. Temos desenvolvedores em todos os países, e nosso trabalho é encontrá-los onde estão. A evolução é como uma escada. Começamos anos atrás com o autocompletar de código, que parecia mágica. Depois vieram agentes que rodavam por 30 ou 60 segundos para corrigir um bug pequeno. Hoje há agentes trabalhando 24 horas por dia em coisas grandes, e enxames de agentes fazendo várias coisas ao mesmo tempo. Quem tem mais curiosidade chega lá mais rápido.

A única maneira de aprender a usar as ferramentas é na tentativa e erro? Costumo dizer que, nas organizações, há dois grupos. O primeiro pede à IA que resuma um e-mail, faça um PowerPoint ou uma pesquisa sobre a concorrência. São coisas úteis, que eliminam trabalho chato e aumentam a produtividade e a criatividade. Mas ali a evolução é linear. O segundo grupo vive frustrado com a IA. Pede algo e ela tropeça, demora demais, custa caro, não funciona. Então a pessoa troca de modelo, muda as instruções e as ferramentas, ajusta e treina o próprio modelo. Esse grupo cresce de forma exponencial, e a distância entre os dois é real. Dá para passar de um para o outro, mas isso não cai no colo. É preciso aprender fazendo, tentando e errando muitas vezes.

Quem vai gostar mais das novas ferramentas: o diretor de tecnologia ou o diretor financeiro? Os dois decidem hoje. O CTO e os desenvolvedores querem escolher modelos e superfícies. A escolha de modelos fica cada vez mais importante, porque eles mudam o tempo todo e as pessoas preferem modelos diferentes para tarefas diferentes. Vamos conectar todas as nossas superfícies: você poderá começar uma tarefa no app do GitHub no trem a caminho do trabalho e continuá-la no laptop ao chegar ao escritório, ou levá-la para o editor de código, inclusive de parceiros, como o IntelliJ. Acho que somos os únicos que fazem isso. Já o CFO quer ROI, ROI, ROI. Estou recebendo mais código? Mais receita? Mais bugs corrigidos? Ele precisa de dados, de orientação para otimizar e de controle, porque não dá para ter custos descontrolados num negócio. É o que chamamos de FinOps, operações financeiras. Ou o caminho para o coração do CFO.

E está dando certo? Ainda é cedo, e toda organização está aprendendo. Como temos uma comunidade enorme, recebemos muito feedback e estamos sempre tentando melhorar. Não é como construir um painel, entregar ao CFO e pronto. Fizemos muito progresso este ano. A boa notícia é que temos de fazer tudo isso também para os funcionários da Microsoft: nós também temos um CFO preocupado com o retorno do investimento. Usamos tudo internamente primeiro, numa escala tão grande que aprendemos muito.