LFM2.5-2.6B: modelo agnóstico de Liquid AI con contexto de 128K

⏱ Tiempo de lectura: 3 min

Liquid AI lanzó LFM2.5-2.6B, un modelo agnóstico que planifica, ejecuta llamadas a herramientas y completa tareas multietapa directamente en el dispositivo del usuario. Con 2.69 mil millones de parámetros, 131.072 tokens de contexto y velocidad de decodificación de 220 tokens por segundo en un Mac M5 Max usando menos de 2.5 GB de memoria, el modelo combina arquitecturas innovadoras y pesos abiertos disponibles en formatos GGUF, MLX y ONNX.

Arquitectura y especificaciones del modelo agnóstico

El modelo integra 22 bloques de convolución de corta duración con compuertas dobles y 8 bloques GQA (Group Query Attention) distribuidos en 30 capas. Esta combinación permite procesar 131.072 tokens de contexto, suficiente para documentos largos, conversaciones extendidas e interacciones complejas. La velocidad de decodificación de 220 tokens por segundo en hardware de consumo directo lo posiciona para ejecución local sin depender de APIs remotas. Los pesos abiertos garantizan que desarrolladores puedan implementar, ajustar y personalizar el modelo sin restricciones de acceso. Los modelos de lenguaje abiertos continuán ganando tracción en la comunidad de desarrolladores.

Capacidades y formatos de distribución

LFM2.5-2.6B soporta llamadas a herramientas, permitiendo que el modelo decida cuándo invocar funciones externas para completar tareas. El tamaño compacto de 2.69 mil millones de parámetros lo hace accesible en dispositivos con recursos limitados, desde laptops hasta sistemas embebidos. Liquid AI distribuyó los pesos en tres formatos estándar: GGUF para cuantización eficiente, MLX para integración nativa en ecosistema Apple, y ONNX para compatibilidad multiplataforma. Esta estrategia multiforma amplía el rango de contextos donde el modelo puede ejecutarse sin dependencias propietarias. Detalles técnicos en MarkTechPost.

Qué significa para los usuarios y desarrolladores

Un modelo agnóstico compacto con contexto amplio y ejecución local reduce latencia, elimina dependencias de servidores remotos y respeta privacidad de datos sensibles. Desarrolladores pueden integrar agentes autónomos en aplicaciones sin costo de inferencia en la nube. La disponibilidad de pesos abiertos en múltiples formatos facilita adopción rápida y personalización según necesidades específicas de cada caso de uso.

Parámetro	Especificación
Nombre del modelo	LFM2.5-2.6B
Parámetros	2.69 mil millones
Contexto máximo	131.072 tokens (128K)
Velocidad de decodificación	220 tokens/segundo en M5 Max
Consumo de memoria	Menos de 2.5 GB en M5 Max
Bloques de convolución	22 bloques con compuertas dobles
Bloques GQA	8 bloques distribuidos en 30 capas
Capacidades principales	Planificación, llamadas a herramientas, tareas multietapa
Formatos de distribución	GGUF, MLX, ONNX
Tipo de pesos	Abiertos (open weights)
Ejecución	On-device, sin dependencia de servidores remotos

Preguntas frecuentes sobre LFM2.5-2.6B

¿Cuál es la ventaja principal de un modelo agnóstico en dispositivo?

Elimina latencia de red, reduce costos de inferencia en la nube y protege privacidad al procesar datos localmente sin enviarlos a servidores remotos. Ideal para aplicaciones que requieren respuesta inmediata y confidencialidad.

¿Es compatible con cualquier dispositivo?

El modelo con menos de 2.5 GB de memoria es accesible en laptops y sistemas de consumo. Los formatos GGUF, MLX y ONNX garantizan compatibilidad multiplataforma, aunque el rendimiento óptimo se demostró en M5 Max.

¿Qué costo tiene acceder a los pesos abiertos?

Los pesos son abiertos y gratuitos. Desarrolladores pueden descargarlos, implementarlos e integrarlos sin licencia propietaria ni costo de acceso, solo incurriendo en recursos computacionales locales.

Qué falta por confirmar

La fuente no especifica rendimiento comparativo con otros modelos compactos agnósticos, benchmarks de precisión en tareas específicas ni hoja de ruta de actualizaciones futuras. Tampoco se detallan casos de uso demostrados o usuarios tempranos.

En Inteligencia Artificial creemos que modelos agnósticos compactos con contexto amplio abren posibilidades para aplicaciones privadas y de baja latencia. ¿Tu proyecto necesita un modelo local que maneje tareas complejas sin dependencia de la nube?

Fuente: www.marktechpost.com