Mirendil apresenta Fern, um primeiro modelo anunciado com contexto de 10 milhões de tokens
O novo laboratório aposta no comprimento do contexto em vez do tamanho. Fern 0.1 ainda não está acessível, e suas próprias pontuações em código ficam bem abaixo das dos melhores modelos.
Mirendil, um novo laboratório de IA, apresentou no 26 de outubro seu primeiro modelo, o Fern. Seu argumento cabe em um número: uma janela de contexto anunciada de até 10 milhões de tokens, ou seja, segundo o desenvolvedor, cerca de 23 MB de código ou meio milhão de linhas mantidos na memória de trabalho de uma só vez. Para efeito de comparação, o GPT-6.1 Terra da OpenAI, disponibilizado no mesmo dia na Amazon Bedrock, aceita até 1 milhão de tokens na entrada na Amazon Bedrock.
Apostar no contexto em vez do tamanho
A Mirendil defende uma tese simples: para tornar um modelo mais capaz, é possível aumentar seu número de parâmetros, mas também a quantidade de informações que ele pode consultar de uma vez. O Fern 0.1, a primeira versão, é construído sobre o Mirendil-Base, um modelo de 0,1 a 0,5 bilhão de parâmetros (o desenvolvedor informa apenas uma faixa), pré-treinado do zero e depois ajustado por um curto pós-treinamento.
Os usos visados são os das equipes que constroem IA: auditar dados de treinamento, depurar um treinamento a partir de seus logs, revisar rastros de agentes de ponta a ponta, trabalhar em repositórios de código muito grandes. Dois modelos base maiores, Large (0,5 a 2 bilhões de parâmetros) e XL (2 a 10 bilhões), estão em pré-treinamento.
O que mostram os números do desenvolvedor
Quanto ao comprimento do contexto, a Mirendil publica um teste RULER: a busca de uma informação isolada (“single needle”) tem 100% de sucesso em todos os comprimentos testados, até 10 milhões de tokens. Mas nesse comprimento, a pontuação se baseia em apenas 20 exemplos, e o próprio desenvolvedor anuncia resultados mais completos “em breve”. Encontrar uma agulha no palheiro é o teste mais simples;raciocinar sobre todo esse contexto é muito mais difícil.
Em programação, as pontuações do Fern 0.1, medidas pela Mirendil com a ferramenta OpenCode em uma única tentativa, ficam longe das melhores: 73,4% no SWE-Bench Verified e 76,5% no SWE-Bench Pro v2-Hard, enquanto o mesmo gráfico atribui 90,2% ao GPT-6 Astra nesse último teste. Os métodos de medição diferem de um modelo para outro nesse gráfico, o que limita o alcance da comparação.
Ainda não utilizável
Ponto essencial: o Fern 0.1 não está acessível. A página indica acesso “em breve” e oferece uma solicitação de acesso antecipado. Nem preço, nem API, nem pesos abertos são anunciados.
Nossa leitura
Um contexto de 10 milhões de tokens, se realmente explorável, mudaria a forma de trabalhar em grandes repositórios de código ou em longos rastros de agentes. Mas, neste momento, o Fern é um anúncio: um único teste de contexto publicado em uma amostra pequena, pontuações de código aquém dos líderes e nenhum acesso público. Voltaremos a isso quando o modelo puder ser testado.
Fontes
- Mirendil — Introducing Fern Fonte primária — pontuações extraídas dos gráficos interativos da página
- AWS — OpenAI GPT-6.1 Terra is now generally available on Amazon Bedrock Fonte primária — elemento de comparação (janela de contexto do GPT-6.1 Terra)
Uma fonte primária vem diretamente da empresa, do laboratório ou da organização envolvida. Uma fonte secundária relata a informação sem ser a sua autora: nós a sinalizamos como tal. Encontrou um erro? Consulte nossa política de correções.
