Intel Xeon de 5a generación, optimizado para Cloud, redes y Edge, Intel presentó la quinta generación de su línea Xeon para centros de datos, que ahora incluye nuevas capacidades de Inteligencia Artificial (IA), las cuales ofrecen una ganancia de hasta 42 por ciento superior para inferencia de modelos con hasta 20 mil millones de parámetros, optimizado para cargas de trabajo como Cloud, redes y Edge.
Sandra Rivera, vicepresidenta Ejecutiva y directora de centros de datos e IA, habló sobre las características de ahorro y eficiencia que ofrece la quinta generación de Xeon para cargas de trabajo de IA, como una alternativa al uso de GPUs más demandantes de energía. Según la compañía, los nuevos Xeon ofrecen una ganancia de hasta 21 por ciento en cómputo general, con un desempeño 36 por ciento superior por Watt respecto a la generación anterior.
Vea: Transforma tu Galaxy en una oficina portátil inalámbrica
Durante su presentación, la directiva indicó que Intel introdujo aceleradores para IA en cada uno de los 64 procesadores del chip, con lo que ofrece hasta un 42 por ciento de desempeño superior en trabajos de inferencia para modelos como Llama 2 y GPT-J.
Los aceleradores de IA integrados, en conjunto con el software optimizado y las capacidades de telemetría, permiten implementaciones más manejables y eficientes de exigentes cargas de trabajo en redes y Edge para proveedores de servicios de comunicación, redes de entrega de contenido y amplios mercados verticales, incluidos el comercio minorista, la atención médica y la fabricación.
En particular, Intel promete que Xeon logra hasta 23 por ciento mayor rendimiento en desempeño para procesamiento de grandes modelos de lenguaje en Cloud; funciones de plano de usuario en redes 5G hasta 50 por ciento más rápidas; y hasta un 24 por ciento de clasificación más rápida de objetos en el Edge.
Los casos de uso de cómputo en el Edge representan el segmento de más rápido crecimiento, con un mercado global de 445 mil millones de dólares para finales de la década, dentro del cual la IA es la carga de trabajo de más rápido crecimiento.
Se espera que los primeros servidores equipados con Xeon estén listos durante el primer trimestre del 2024, de fabricantes como Cisco, Supermicro, Lenovo y HPE, entre otros. Asimismo, Intel anunció una asociación con Google Cloud, el cual lanzará máquinas virtuales con opción de Xeon 5a Gen.
IBM también reveló que su plataforma watsonx.data logró un rendimiento de consultas hasta 2.7 veces mejor en comparación con los procesadores Xeon de la generación anterior.
Mientras que Xeon estará encargada para la ejecución de modelos y cargas de trabajo de IA en el servidor, Intel también presentó un adelanto de Gaudi 3, su plataforma enfocada en el entrenamiento de grandes modelos de lenguaje que demandan de un mayor procesamiento de cómputo. Esta plataforma será anunciada de forma oficial más tarde durante 2024.
Ecosistemas abiertos
Los directivos de Intel apuntaron también que es necesario impulsar plataformas y ecosistemas abiertos, incluyendo impulsar a la comunidad de proveedores independientes de software, de modo que se aprovechen las nuevas capacidades de hardware con nuevos casos de uso en aplicaciones como videoconferencias, viajes, comunicación o salud, entre otras.
Al respecto, Pat Gelsinger, CEO de Intel, criticó la dominancia de CUDA, la plataforma de Nvidia utilizada para el entrenamiento de modelos de IA. Aseguró que “toda la industria está enfocada en eliminar el mercado CUDA”, refiriéndose al trabajo que realizan compañías como Google y OpenAI para mover la industria hacia modelos abiertos.
“Pensamos que el foso CUDA es poco profundo y pequeño. Porque la industria está motivada a ofrecer un conjunto más amplio de tecnologías para una amplia capacitación, innovación, ciencia de datos, etcétera”, añadió.
Al respecto, aprovechó para hablar sobre OpenVINO, un kit abierto de herramientas de desarrollo impulsado por Intel.
Mientras las GPU Nvidia dominan actualmente el mercado de entrenamiento de los grandes modelos de IA, Intel considera que la inferencia puede ser incluso más importante, por lo que se enfocará en este segmento tras el lanzamiento de Intel Core Ultra y Xeon 5a Gen.
En cuanto al avance de IA, Gelsinger se mostró a favor de impulsar una regulación de IA, al considerar que estará integrada en industrias que por sí mismas ya están reguladas, como la automotriz y salud. Aseguró que la compañía participará en este debate, para lograr que la IA sea socialmente aceptada, responsable y segura. Según publicó: Dplnews
