GPT 4o mini reduz custos e aumenta alcance

O GPT-4o mini é um modelo compacto da OpenAI focado em custo e latência, com preço divulgado de US$ 0,15 por 1 milhão de tokens de entrada e US$ 0,60 por 1 milhão de tokens de saída. A proposta é viabilizar apps em escala, como suporte em tempo real, fluxos com várias chamadas ao modelo e análises com contexto grande, usando janela de 128k tokens.

O que o GPT-4o mini entrega na prática

O GPT-4o mini foi apresentado como o “pequeno mais econômico” da OpenAI, com a ideia de empurrar IA para cenários em que o custo por chamada e o tempo de resposta pesam mais do que o topo absoluto de qualidade. O anúncio oficial reúne especificações, casos de uso e comparativos de avaliação em um único texto. Leia o post oficial.

GPT-4o mini: Avançando na Inteligência com Eficiência de Custos

Os pontos técnicos que mais mudam o desenho de produto são estes:

  • Janela de contexto: 128k tokens, útil para histórico longo, documentação interna e base de código maior.
  • Saída por resposta: até 16k tokens de output por requisição, bom para relatórios, resumos extensos e respostas com estrutura.
  • Modalidades: no lançamento, a API suportava texto e visão, com a promessa de evoluir para entradas e saídas envolvendo imagem, vídeo e áudio.
  • Conhecimento declarado: até outubro de 2023, relevante para expectativas de atualização de fatos.
  • Tokenização: o tokenizador do GPT-4o foi citado como ganho de economia em textos fora do inglês, o que costuma favorecer português em custo total de tokens.

Exemplo prático: um app de reembolso corporativo pode receber uma foto do recibo, extrair campos (CNPJ, data, categoria, valores), validar com regras internas e gerar um lançamento no ERP. O mesmo fluxo pode rodar em lote, com várias chamadas em paralelo e com custo previsível, algo que costuma ser inviável quando cada etapa exige um modelo caro.

Desempenho em texto, visão e chamadas de função

O posicionamento do GPT-4o mini não é “o melhor modelo”, e sim “o melhor custo-benefício” dentro da categoria de modelos menores. No material do lançamento, ele aparece superando o GPT-3.5 Turbo em benchmarks acadêmicos e também com boa capacidade de lidar com contexto longo.

Para quem constrói produto, vale separar desempenho em três camadas, porque cada uma impacta um tipo de app:

  • Texto: compreensão, extração de informação e geração com instruções claras.
  • Multimodal: leitura de imagens em tarefas práticas, como documentos, prints, tabelas e fotos de comprovantes.
  • Function calling: o modelo “chama funções” em vez de improvisar respostas, o que ajuda a buscar dados e executar ações em sistemas externos com mais controle.

O anúncio também citou preferência em chats em um placar público de comparações por usuários, um tipo de sinal que complementa benchmark acadêmico. Para referência, a arena de comparações pode ser acompanhada em lmarena.ai.

Benchmarks e comparação rápida

Os resultados divulgados colocam o GPT-4o mini à frente de outros modelos pequenos em tarefas de raciocínio, matemática, programação e multimodal. Os números abaixo reproduzem a tabela do material fornecido, com os mesmos valores, para comparação direta.

Modelo MMLU GPQA DERRUBAR MGSM Matemática Avaliação Humana MMU MathVista
GPT-4o mini 82.0 87.0 87.2 59.4 87.0 76.6 59.4 90.2
Gemini Flash 77.9 75.5 71.5 56.1 75.5 70.2 56.1 70.2
Claude Haiku 73.8 71.7 75.9 50.2 71.7 68.0 50.2 56.7
GPT-3.5 Turbo 69.8 56.3 68.0 40.9 68.0 43.1 40.9 46.4
GPT-4o 88.7 83.4 90.5 87.2 90.5 90.2 87.2 63.8

Além de métricas, o lançamento citou testes com parceiros para entender limites e usos reais. Entre os exemplos mencionados, empresas como Ramp e Superhuman teriam observado ganho relevante contra o GPT-3.5 Turbo em extração de dados estruturados de recibos e em geração de respostas de e-mail com histórico de conversa.

Medidas de segurança e resistência a manipulação

Em modelos usados em produto, segurança é menos um “módulo” e mais uma cadeia de decisões, dados e validação. O material de lançamento destacou dois momentos do processo: no pré-treinamento, filtragem de conteúdo indesejado, e no pós-treinamento, alinhamento com políticas usando técnicas como RLHF.

O anúncio também descreveu avaliações automatizadas e humanas, incluindo participação de especialistas externos para testar riscos, principalmente em temas como desinformação. Para uma visão geral do processo de desenvolvimento, há uma explicação no help center da OpenAI: como os modelos são desenvolvidos.

Um detalhe técnico citado como novidade na API foi a aplicação de uma “hierarquia de instruções”, pensada para aumentar resistência a jailbreaks, injeção de prompt e tentativas de extração do prompt do sistema. A ideia aparece em um artigo técnico que descreve como priorizar instruções de níveis diferentes, como sistema, usuário e conteúdo de ferramentas: The Instruction Hierarchy.

Disponibilidade, preço e onde isso aparece

No lançamento, o GPT-4o mini foi anunciado como disponível via Assistants API, Chat Completions API e Batch API, com suporte a texto e visão. Também foi comunicado que ele entraria no ChatGPT substituindo o GPT-3.5 para usuários de diferentes planos, e que ajuste fino estava nos planos para os dias seguintes ao anúncio.

O preço divulgado no anúncio foi de US$ 0,15 por 1 milhão de tokens de entrada e US$ 0,60 por 1 milhão de tokens de saída. Como precificação de API pode mudar com o tempo, a referência mais segura para confirmar valores é a página oficial: preços da API da OpenAI.

Regra de decisão e uma leitura rápida do mercado

Regra prática: se o seu caso de uso exige muitas chamadas, respostas rápidas ou muito contexto (documentos longos, histórico grande, base de código), comece pelo GPT-4o mini e só “suba” para um modelo maior quando houver falha clara de qualidade. Se a tarefa for crítica em precisão, exigir raciocínio difícil ou tiver risco alto, o custo extra de um modelo mais forte costuma sair barato frente ao custo de erro.

Para enquadrar a disputa atual de modelos, funciona pensar no “jogo dos 3 T”, que quase sempre define o que vence em produção:

  • Tamanho: quanto menor e mais barato, mais dá para escalar e experimentar.
  • Tempo: latência vira UX, e UX vira adoção, principalmente em chat e copilotos.
  • Talento: capacidade do modelo, que decide se o app resolve de verdade ou só parece inteligente.

O GPT-4o mini entra justamente no ponto em que tamanho e tempo deixam de ser obstáculo para colocar IA em massa, sem abrir mão de um nível de “talento” que, no material de lançamento, aparece acima do que era comum na geração anterior de modelos compactos.


Publicado

em

por