AMD adquiere Taalas, la startup que graba los pesos de modelos de IA directamente en su silicio

Mi opinión: El enfoque de Taalas cambia algo fundamental en cómo funciona la inferencia de IA. Hoy, cuando un modelo procesa tu consulta, sus pesos (los parámetros que definen cómo razona) se cargan desde la memoria en cada llamada. El chip HC1 de Taalas los graba permanentemente en los propios transistores, eliminando esa lectura por completo. En las pruebas de la empresa, Llama 3.1 8B corrió a 16,960 tokens por segundo: 48 veces más rápido que una GPU de Nvidia en la misma tarea.

El trade-off es real: cada chip queda fijado a un solo modelo para siempre. No se puede reprogramar. Pero para aplicaciones de alto volumen como atención al cliente, procesamiento masivo de documentos o traducción en tiempo real, la economía de chips de propósito único empieza a tener mucho sentido.

Vale aclarar que estas cifras son las reportadas por el propio equipo de Taalas antes de la adquisición, no por un tercero independiente. Conviene leerlas como datos de demostración tecnológica hasta que llegue una validación externa a escala real.

Si construyes aplicaciones sobre IA, la pregunta relevante es: cuando el costo de inferencia cae varios órdenes de magnitud, ¿qué casos de uso hoy considerados demasiado costosos para ser viables se convierten en parte del producto?