Desarrollo

Clover-35B-A3B: DiffuSpace publica en código abierto un modelo de lenguaje de difusión de 35.000 millones de parámetros

DiffuSpace, un equipo procedente del laboratorio NLP de la Universidad de Hong Kong, publica bajo licencia Apache 2.0 Clover-35B-A3B-Preview, un modelo de lenguaje que genera texto por difusión en lugar de palabra por palabra. Anuncia 680 tokens por segundo en una sola tarjeta y puntuaciones de código superiores a Qwen3.6 del mismo tamaño, cifras aún por verificar.

Ilustración abstracta generada para la sección Desarrollo

DiffuSpace publicó este miércoles 28 de octubre, hacia las 4:42, hora de París, Clover-35B-A3B-Preview, un modelo de lenguaje abierto que no funciona como la mayoría de los demás. En lugar de escribir el texto un token tras otro (hablamos de modelo «autorregresivo»), lo genera por difusión: parte de un borrador de bloques completos y lo refina en varias pasadas, en paralelo. El equipo, procedente del laboratorio NLP de la Universidad de Hong Kong, ya había firmado Dream 7B en 2025.

Los pesos se publican bajo licencia Apache 2.0 en Hugging Face y ModelScope, con el código en GitHub.

Lo que se sabe del modelo

  • Arquitectura: mezcla de expertos (MoE), 35.000 millones de parámetros en total, de los cuales unos 3.000 millones activos por cada token, lo que lo hace ligero de ejecutar para su tamaño.
  • Base: retoma la arquitectura de Qwen3.6-35B-A3B, de Alibaba, adaptando su mecanismo de memoria (Gated DeltaNet) para que lea el contexto en ambos sentidos dentro de cada bloque.
  • Uso: modo de razonamiento, compatible con SGLang y llama.cpp, dos herramientas habituales para ejecutar modelos en local o en servidor. Se ofrece acceso en línea bajo petición.

Las promesas, por verificar

El argumento principal es la velocidad. DiffuSpace anuncia 680 tokens por segundo en una sola tarjeta NVIDIA GB300 (en BF16, una solicitud cada vez, sobre sus datos internos de agentes), y 515 tokens/s frente a 365 para un modelo Qwen del mismo tamaño acelerado mediante la técnica DFlash2 en una tarjeta H200. En versión comprimida (INT4), el modelo funcionaría a 101,8 tokens/s en una RTX 5070 Ti de consumo de 16 GB.

En cuanto a calidad, el desarrollador afirma 73,6 en SWE-bench Verified y 51,7 en Terminal-Bench 2.1, dos pruebas de código y de agentes, así como 83,8 en GPQA Diamond. Sostiene que supera a Qwen3.6-35B-A3B en varias pruebas. Todas estas cifras provienen de DiffuSpace: ningún evaluador independiente las ha reproducido todavía.

La entrada presenta también un modelo de decisión derivado de Clover, pensado para encadenar varios juicios relacionados en una sola pasada, así como un futuro entorno de agente y una aplicación de programación, ambos anunciados como «en desarrollo».

Nuestra lectura

Los modelos de difusión prometen desde hace tiempo una generación mucho más rápida, pero quedaban por detrás en calidad en cuanto se aumentaba el tamaño. Si las puntuaciones de Clover se confirman, sería el primer modelo de este tipo, abierto y de tamaño serio, en rivalizar con un modelo clásico equivalente en tareas de código y de agentes. Para un agente, que encadena decenas de llamadas, la velocidad cuenta tanto como la nota. Prudencia, eso sí: es una «preview», las mediciones son propias, y la verdadera cuestión será el rendimiento en tareas largas dentro de las herramientas de los desarrolladores.

Fuentes

  1. DiffuSpace — Clover-35B-A3B-Preview: A New Way for Intelligence (blog) Fuente primaria
  2. Hugging Face — ficha del modelo Diffuspace/Clover-35B-A3B-Preview Fuente primaria
  3. GitHub — DiffuSpace/Clover-35B-A3B-Preview Fuente primaria
  4. DiffuSpace (X) — anuncio de Clover-35B-A3B-Preview Fuente primaria

Una fuente primaria procede directamente de la empresa, el laboratorio o la organización implicados. Una fuente secundaria recoge la información sin ser su autora: la señalamos como tal. ¿Has visto un error? Consulta nuestra política de correcciones.