A OpenAI anunciou nesta quinta-feira, 18, o lançamento de um modelo mais econômico do que o último. O GPT-4o mini chega a 82% de MMLU ((Massive Multitask Language Understanding), benchmark utilizado para avaliar a capacidade de modelos de linguagem em realizar tarefas de compreensão de linguagem natural em uma ampla gama de tópicos.
Atualmente, o GPT-4o mini suporta texto e visão na API, com possibilidade para entrada e saída de texto, imagem, vídeo e áudio no futuro. O modelo possui uma janela de contexto de 128K tokens, suporta até 16K tokens de saída por solicitação, tem conhecimento até outubro de 2023 e entende a mesma gama de idiomas que o GPT-4o.
As possibilidades do novo modelo da OpenAI
A nova versão do GPT possibilita aplicações em cadeia ou múltiplas camadas de modelo (como o chamado de várias APIs), passando um grande volume de contexto para o modelo (como base de código completa ou histórico de conversas), ou interagindo com clientes através de respostas rápidas em tempo real (por exemplo, chatbots de suporte ao cliente).
Durante o pré-treinamento, a empresa filtrou informações as quais não quer que o modelo aprenda ou reproduza, como discurso de ódio, conteúdo adulto, sites que agregam informações pessoais e spam. No pós-treinamento, a empresa alinhou o comportamento do modelo às suas políticas, usando técnicas como aprendizado por reforço com feedback humano (RLHF).
GPT-4o mini: preços e disponibilidade
A nova versão será precificada em US$ 0,15 por 1 milhão de tokens de entrada e US$ 0,60 por 1 milhão de tokens de saída (equivalente a cerca de 2,5 mil páginas de um livro padrão), o que seria, segundo a OpenAI uma ordem de magnitude 60% mais barata do que o GPT-3.5 Turbo.
No ChatGPT, usuários Free, Plus e Team poderão acessar o GPT-4o mini a partir desta quinta-feira, substituindo o GPT-3.5. Usuários Enterprise também terão acesso a partir da próxima semana.
