Bien, esto merece atención. AMD ha lanzado discretamente Lemonade — un servidor LLM abierto construido específicamente para ejecutar grandes modelos localmente en hardware de AMD, incluyendo tanto GPU como NPU. Y la comunidad de HN se ha dado cuenta.
El hilo en Hacker News es una de las señales tempranas más claras que hemos visto en un tiempo dentro de la IA de código abierto. La gente no solo está curiosa, sino genuinamente impresionada. Empleados de AMD demostraron recientemente que Lemonade con ROCm 7 beta es capaz de ejecutar GPT-OSS-120B (es decir, un modelo de 120 mil millones de parámetros) localmente en una PC AMD con arquitectura Strix Halo. Eso no es poca cosa.
¿Por qué es esto interesante? Porque el LLM local en AMD siempre ha sido un poco como "sí, funciona, pero no me preguntes por el soporte". La pila de ROCm ha tenido una merecida reputación de ser frustrante de configurar, especialmente en hardware de consumo. Lemonade parece un intento de empaquetar todo esto en algo realmente utilizable — con llama.cpp como backend y soporte para aceleración NPU además de la GPU.
Las cifras de rendimiento de la comunidad de investigación también merecen ser mencionadas: AMD Instinct MI300X de hecho supera al H100 en varios benchmarks de inferencia gracias a su masivo ancho de banda de memoria (5,3 TB/s frente a los 3,35 TB/s del H100). En el lado del consumidor, NVIDIA sigue liderando, pero la RX 7900 XTX se mantiene con un 80% del rendimiento de la RTX 4090 por un precio aproximadamente un 40% menor.
Lo que realmente hace que el hilo de HN se caliente es la combinación de dos cosas: el respaldo de AMD (esto no es un proyecto de hobby) y el enfoque abierto. Toda la pila puede ser inspeccionada, modificada y desarrollada. Para aquellos escépticos del monopolio de CUDA, esto es un caramelo.
Evaluación de la fuente: Esto se basa en un hilo de la comunidad en Hacker News y las propias demostraciones de AMD — tómelo como una señal temprana, no como una reseña de producto completamente probada. ROCm todavía tiene debilidades conocidas con las herramientas y el soporte de Linux fuera de las principales distribuciones.
Pero la dirección es clara: AMD está presionando, y Lemonade es la prueba más concreta que hemos visto de que se toman en serio la IA local. Manténgase atento a esto.