✨︎ Resumen (TL;DR):
- Empresas de IA piden a Qualcomm que los teléfonos ejecuten de forma continua modelos de lenguaje de al menos 100,000 millones de parámetros en 2028.
- A 4 bits, los pesos ocuparían 50 GB en unidades decimales; a 8 bits, 100 GB, antes de sumar caché, sistema operativo y aplicaciones.
- Apple reportó un método para ejecutar modelos de hasta el doble de la DRAM disponible, pero su investigación no valida la meta de 100,000 millones en un teléfono de 2028.
Empresas de inteligencia artificial están pidiendo a Qualcomm que los teléfonos ejecuten de forma continua modelos de lenguaje de al menos 100,000 millones de parámetros en 2028. Cristiano Amon, CEO de Qualcomm, explicó esa meta en una entrevista con Alex Heath para Sources, grabada durante el Snapdragon Summit en Hawái y publicada el 8 de octubre de 2026. Amon vinculó la demanda con asistentes capaces de usar aplicaciones y actuar por el usuario.
La cifra depende de los bits y la memoria
Los parámetros son los valores numéricos que componen un modelo. Para almacenarlos, también importa cuántos bits ocupa cada uno. Ahí aparece la cuantización.
La cuantización es una técnica que representa los pesos con menor precisión para reducir el espacio y el consumo de recursos, mientras busca conservar la calidad de las respuestas.
Con ese principio, un cálculo ilustrativo muestra la escala de la petición. Si los 100,000 millones de parámetros se almacenaran a 4 bits cada uno, los pesos ocuparían 50 GB en unidades decimales. La cuenta sale de multiplicar el número de parámetros por cuatro y dividir el resultado entre ocho, porque un byte contiene ocho bits.
A 8 bits, el mismo conjunto de pesos ocuparía 100 GB. Son tamaños teóricos de los pesos, antes de añadir los datos auxiliares de la cuantización y otros elementos necesarios para ejecutar el modelo.
También deben considerarse el sistema operativo y las aplicaciones. La guía de Hugging Face señala que las estimaciones de memoria incluyen la caché que conserva información de la secuencia procesada.
Por eso, tener 50 GB libres de almacenamiento y disponer de esa cantidad de RAM son condiciones distintas. El almacenamiento permite guardar datos; la RAM determina cuánto puede mantenerse en la memoria de trabajo. El cálculo describe el espacio del conjunto de pesos bajo una representación concreta, no cómo tendría que organizarse un teléfono futuro.
Reducir la precisión no sale gratis. Hugging Face advierte que la cuantización introduce errores y que trabajar a 4 bits suele afectar más a la exactitud que hacerlo a 8 bits. El diseño debe equilibrar el ahorro de memoria con el comportamiento del modelo en las tareas para las que se utilizará.
Apple estudió cargar modelos desde la memoria flash
Apple estudió una alternativa para dispositivos con poca memoria de trabajo en el artículo científico LLM in a Flash, publicado en ACL 2024. Sus investigadores describieron un método que guarda los parámetros en memoria flash y lleva a la RAM los datos necesarios durante la ejecución.
El trabajo combina la reutilización de información activada previamente con lecturas de bloques más grandes y contiguos. Bajo las condiciones de sus experimentos, los autores reportaron que esas técnicas permitían ejecutar modelos de hasta el doble del tamaño de la memoria DRAM disponible.
El resultado ayuda a entender por qué el tamaño total del modelo y la RAM instalada no tienen una relación única. La organización de los datos y la forma de cargarlos también intervienen. Su alcance es una demostración de investigación sobre memoria limitada, no una validación del objetivo de 100,000 millones de parámetros en un teléfono de 2028.
La meta de 2028 exige resolver el flujo de datos
La meta que Amon relató exige resolver cómo almacenar y alimentar el modelo durante su uso continuo. La cantidad de parámetros representa una parte de la exigencia; el espacio de los pesos y el movimiento de datos permiten medir otra.
Para esa meta, Qualcomm tendría que resolver cómo almacenar y alimentar el modelo durante la ejecución. Comparar los parámetros con la RAM no basta: también cuentan la representación elegida, la caché y la forma de cargar los datos. El objetivo de 2028 queda planteado como una demanda de empresas de IA, no como una capacidad ya demostrada por un teléfono.
