Microsoft ha dado un paso estratégico en el sector de la inteligencia artificial con la presentación de Maia 300, su tercera generación de aceleradores diseñados específicamente para su infraestructura en la nube. Con este movimiento, la compañía busca optimizar la eficiencia y reducir su dependencia de proveedores externos como NVIDIA, enfocándose especialmente en las tareas de inferencia, el proceso mediante el cual los modelos generan respuestas a las peticiones de los usuarios.
La eficiencia energética es uno de los pilares de este lanzamiento. Según las estimaciones de Microsoft, Maia 300 permitiría procesar un 40% más de tokens por megavatio en comparación con sistemas basados en GPU. Además, la compañía proyecta que un rack equipado con 96 de estos aceleradores ofrezca hasta siete veces el rendimiento en tokens por rack en relación con la generación anterior, Maia 200, integrando una mayor densidad de procesamiento dentro de un límite de potencia de 167 kilovatios.
Tecnología y arquitectura de alto rendimiento
El desarrollo de Maia 300 no parte desde cero, sino que se beneficia de la experiencia acumulada con los modelos anteriores, Maia 100 y Maia 200. El nuevo sistema integra varios chiplets fabricados mediante el proceso N2P de TSMC y utiliza ocho pilas de memoria HBM4 para garantizar una transferencia de datos ultrarrápida. Este diseño busca que memoria, computación y comunicaciones operen de manera coordinada para minimizar los movimientos innecesarios de información.
La eficiencia energética es uno de los pilares de este lanzamiento. Según las estimaciones de Microsoft, Maia 300 permitiría procesar un 40% más de tokens por megavatio en comparación con sistemas basados en GPU. Además, la compañía proyecta que un rack equipado con 96 de estos aceleradores ofrezca hasta siete veces el rendimiento en tokens por rack en relación con la generación anterior, Maia 200, integrando una mayor densidad de procesamiento dentro de un límite de potencia de 167 kilovatios.



!Advertencia! Tenemos problemas...
Debes iniciar sesión para poder comentar.. Iniciar sesión o Registrarme