¿Pueden las GPUs sin servidor satisfacer las demandas de cómputo de la inteligencia artificial?

GPUs
Las unidades de procesamiento gráfico físico están muy solicitadas, pero un enfoque sin servidor puede proporcionar la potencia que las empresas necesitan sin preocuparse por el suministro de chipsets. La humilde GPU ya no es tan humilde.

Las GPUs, o unidades de procesamiento gráfico, han sido conocidas principalmente como un componente esencial para procesar imágenes a alta velocidad, generalmente para videojuegos. Sin embargo, hoy en día son fundamentales para entrenar y ejecutar aplicaciones de inteligencia artificial generativa, las cuales han experimentado un auge desde el lanzamiento del ChatGPT de OpenAI a finales de 2022.

«Lara Greden, directora de investigación de la práctica de Plataforma como Servicio (PaaS) de IDC, dice: ‘Tienen la misma capacidad de mayor capacidad y procesamiento más rápido cuando se trata de realizar los algoritmos matemáticos detrás de los grandes modelos de lenguaje'».


Banner_frasco-suscripcion-800x250

Pero hay un problema: Toda esa demanda de GPUs, especialmente del líder del mercado NVIDIA, ha provocado escasez. Aquí es donde entran en juego las GPUs sin servidor, las cuales pueden ofrecer un camino a seguir para las empresas que buscan aprovechar las herramientas de inteligencia artificial generativa.

Vea también: ¿Qué tendencias definirán los centros de datos en 2024?

Las GPUs sin servidor ofrecen valor a un costo menor

La tecnología sin servidor, a menudo vista como la máxima encarnación de la informática en la nube, permite a los desarrolladores crear y ejecutar aplicaciones en la nube sin aprovisionamiento ni gestión de servidores o infraestructura de backend.

Con las GPUs sin servidor, las empresas pueden obtener los beneficios de las GPUs mientras optimizan los costos e incorporan la escalabilidad de la infraestructura en la nube para aumentar o reducir la capacidad según lo requiera la demanda, dice Greden. Esto es ideal para aplicaciones de inteligencia artificial que requieren grandes cantidades de potencia de cálculo pero que no necesariamente se ejecutan constantemente.

«Ahora nos encontramos en un caso en el que se está abriendo la puerta para el mercado que querrá hacer uso de las GPUs, y no solo aquellos que realizan un procesamiento gráfico intensivo», dice.

Obtenga Agilidad y Capacidad Adicional con GPUs sin Servidor

Las GPUs sin servidor funcionan esencialmente como un PaaS o incluso como una Función como Servicio, lo que permite a las organizaciones acceder a capacidad de cálculo sin servidor para sus aplicaciones evitando el aprovisionamiento de infraestructura, comenta Brijesh Kumar, analista senior de investigación en la práctica de plataformas de implementación de aplicaciones en la nube de IDC.

Son ideales para cuando las organizaciones no siempre pueden prever la carga de tráfico que tendrán para su capacidad de informática en la nube, dice. La tecnología les permite aumentar la capacidad de GPU cuando llegan las solicitudes y la demanda es alta, para luego reducir a cero cuando las solicitudes se detienen.

La tecnología también admite capacidades de multiinquilinato o multiinstancia, lo que permite a los proveedores de la nube dividir las GPUs sin servidor para admitir múltiples solicitudes de carga de trabajo de diferentes usuarios o fuentes, señala Kumar. Las GPUs sin servidor también reducen los costos al eliminar la necesidad de gestionar la infraestructura necesaria, agrega Kumar.

Sin embargo, hay algunas posibles desventajas en las GPUs sin servidor. El costo puede convertirse en una limitación, ya que ejecutar una GPU sin servidor durante un período prolongado generará cargos con el proveedor de la nube de una organización. Un aumento inesperado en las solicitudes también puede aumentar los costos. Y, Greden dice, las organizaciones corren el riesgo de quedar atrapadas en el uso de un proveedor de la nube en particular para las capacidades de GPU sin servidor.

Aun así, las GPUs sin servidor pueden proporcionar rápidamente respuestas a los usuarios de aplicaciones de inteligencia artificial generativa debido a la rapidez con la que pueden realizar los cálculos requeridos. Y con la demanda del mercado de chipsets de GPU aún extremadamente alta, el uso de GPUs sin servidor podría ser un respaldo crítico mientras los proveedores de silicio se apresuran a producir tantas GPUs como puedan, señala Greden.

Banner_azules
Reciba las últimas noticias de la industria en su casilla:

Suscribirse ✉