Dell ha ampliado su cartera de informática de alto rendimiento para cargas de trabajo de IA añadiendo un servidor con tecnología AMD, diseñado específicamente para admitir modelos de lenguajes grandes (LLM). Esta nueva incorporación complementa las opciones existentes de Dell con tecnología Nvidia, ofreciendo a los clientes más variedad en sus opciones de infraestructura de IA.
El último servidor tiene 8 aceleradores AMD M1300X
El servidor más reciente, el Dell PowerEdge XE9680, está equipado con ocho aceleradores AMD Instinct MI300X. Estos aceleradores destacan por sus 1,5 GB de memoria de alto ancho de banda (HBM3) y su impresionante capacidad de rendimiento, superando los 21 petaFLOPS. Esto los hace particularmente adecuados para empresas que buscan capacitar y operar sus propios LLM internos .
Una de las características clave de la nueva oferta de Dell es su escalabilidad. Los clientes pueden escalar los sistemas que implementan utilizando el estándar de interconexión de memoria global (xGMI). Además, las GPU de AMD se pueden conectar a través de una estructura de IA basada en Ethernet con un Dell PowerSwitch Z9664F-ON. Este lanzamiento sigue al lanzamiento anterior de Dell de una unidad equipada con GPU Nvidia H100.
Otro aspecto importante de la estrategia de Dell es la introducción de un nuevo estándar llamado Diseño validado de Dell para IA generativa con AMD. Este estándar proporciona un marco para que las organizaciones ejecuten su propia arquitectura de hardware y redes para LLM. Enfatiza el uso de marcos de IA con tecnología AMD ROCm, un paquete de código abierto que incluye controladores, kits de herramientas de desarrollo y API compatibles con los aceleradores AMD Instinct. Estos marcos son compatibles con software de inteligencia artificial popular como PyTorch, TensorFlow y OpenAI Triton, todos los cuales tienen soporte nativo en el PowerEdge XE9680 equipado con aceleradores AMD.
El compromiso de Dell con las redes basadas en estándares, como lo demuestra su membresía en el Consorcio Ultra Ethernet (UEC), significa un alejamiento del enfoque de Nvidia. A diferencia de Nvidia, AMD y Dell abogan por una Ethernet abierta para la IA, que permita la interoperabilidad de conmutadores de diferentes proveedores dentro del mismo sistema. El enfoque de Dell alienta a las empresas a adoptar una estrategia abierta que abarque componentes informáticos, estructurales y de almacenamiento esenciales para impulsar los modelos internos de IA generativa.
Se espera que el nuevo hardware y servicios que constituyen el último impulso de Dell en IA estén disponibles en la primera mitad del próximo año. Este desarrollo es parte del esfuerzo más amplio de Dell para brindar soluciones versátiles y poderosas para las empresas que participan en IA generativa y otras tareas informáticas avanzadas.
