Krypton Solid

La última tecnología en raciones de 5 minutos

Elegir la base de chip adecuada para hardware optimizado para IA

Las empresas deben evaluar el hardware antes de considerar cómo utilizar el software y los productos de IA. Esta evaluación de hardware debe incluir los requisitos de memoria y procesamiento y si se necesitan CPU convencionales o GPU y chips AI más especializados. Su elección inicial en hardware y, lo más importante, su selección de chip, se ramificará y afectará su estrategia de IA a largo plazo.

CPU

Las CPU impulsan la mayoría de las tareas informáticas básicas de una máquina. Antes de que las unidades de procesamiento especializadas, como las GPU y las unidades de procesamiento de tensores, ganaran terreno en el campo del aprendizaje automático, las CPU realizaban la mayor parte del trabajo pesado. Sin embargo, uno de los factores más importantes a la hora de elegir hardware optimizado para IA es la velocidad de procesamiento. Una máquina basada en CPU puede tardar más que una basada en GPU para entrenar modelos de IA porque tiene menos núcleos y no aprovecha el procesamiento paralelo como lo hacen las GPU.

Ahora, los desarrolladores y proveedores están creando CPU multinúcleo y aceleradores de capas (piezas de software que priorizan trabajos de aplicaciones específicas y asignan recursos informáticos en consecuencia) sobre las CPU existentes para aumentar el rendimiento, la velocidad de procesamiento y la memoria. Pero, en general, todavía no pueden igualar la potencia de procesamiento de las GPU.

Aunque la potencia de un chip de CPU no puede soportar cargas de trabajo de IA avanzadas, Gadi Singer, vicepresidente del Grupo de Productos de IA y director general de arquitectura de Intel, dijo que comenzar con una base de chip de CPU puede ser una estrategia excelente.

«Si desea realizar un aprendizaje profundo ligero o si desea hacer una combinación de aprendizaje profundo y propósito general, la CPU es la mejor máquina para hacer eso», dijo Singer.

Si sus máquinas necesitan funcionar para una variedad de propósitos, una base de CPU que pueda acelerar con software puede ser una herramienta flexible.

«Las CPU son para personas que no tienen un gran departamento de TI. Quieren centrarse en su diferenciación y quieren el software subyacente [to] hacer el trabajo «, dijo Singer.

Sin embargo, agregar aceleradores a sus CPU multinúcleo no siempre es óptimo para la IA. Si una empresa desea ejecutar redes neuronales y de aprendizaje profundo de nivel avanzado o simplemente tiene máquinas dedicadas para ejecutar IA sin la necesidad de un procesamiento de propósito general, entonces un sistema de GPU puede funcionar a su favor.

CPU frente a chips de GPU

GPU

Si una empresa sabe que su estrategia de inteligencia artificial incluye redes neuronales avanzadas y algoritmos de inteligencia artificial, la elección de un procesador de chip de CPU requeriría numerosos aceleradores para igualar la velocidad de procesamiento rápido y multinúcleo de una GPU.

El estándar actual de la industria es construir su sistema de inteligencia artificial utilizando GPU. Las GPU están optimizadas para renderizar gráficos e imágenes, pero tienen la velocidad y el poder computacional para admitir inteligencia artificial, aprendizaje automático y desarrollo de redes neuronales. Nvidia, Intel y Arm son algunos de los principales proveedores de GPU.

«Aunque para las cargas de trabajo clásicas de aprendizaje automático, las CPU suelen ser suficientes para ejecutar tareas de aprendizaje profundo intensivas en computación, las empresas deben tener en cuenta las GPU y el hardware avanzado específico de IA», dijo Omri Geller, director ejecutivo de la plataforma de aceleración Run: AI, con sede en Tel Aviv, Israel.

El ajuste de parámetros y las iteraciones constantes que requiere el aprendizaje profundo significan que se necesitan una alta potencia de procesamiento y una velocidad de procesamiento más rápida para los grandes tamaños de muestra de datos y el tamaño del modelo de aprendizaje profundo en sí.

«Las GPU son muy efectivas para el entrenamiento. Si tiene suficiente aprendizaje profundo [models that you’re training], utilice una arquitectura que [is] diseñado para eso: GPU «, dijo Singer.

Como escoger

Si hay roles para CPU y GPU, los desarrolladores pueden preguntarse dónde encaja cada uno a medida que construyen su infraestructura de hardware optimizada para IA.

Tanto Singer como Geller fomentan la evaluación de sus objetivos de aprendizaje automático y de inteligencia artificial y la creación de su infraestructura de hardware para que coincida. Si desea una estrategia de inteligencia artificial básica, elegir CPU con aceleradores y software según sea necesario podría ser suficiente para impulsar la computación de propósito general de su máquina y una carga de trabajo de inteligencia artificial ligera.

Si desea desarrollar una inteligencia artificial de aprendizaje profundo, es probable que la elección de GPU brinde los mejores resultados. Las GPU, ya que son bastante nuevas en los casos de uso de IA empresarial, pueden resultar caras. Pero, si desea entrenar sus propios modelos de inteligencia artificial y aprendizaje profundo, la eficiencia de procesamiento y la velocidad de las GPU pueden valer la pena.

A pesar de la variedad de opciones de hardware, elegir el mejor hardware para su empresa se trata de optimizar los recursos computacionales, crear objetivos realistas y reconocer qué software necesita admitir.

«La infraestructura generalmente no está optimizada para compartir recursos de manera eficiente entre todos los diferentes equipos de inteligencia artificial, científicos de datos e ingenieros que trabajan en diferentes tareas de aprendizaje profundo», dijo Geller. «Esto significa que las empresas a menudo terminan gastando mucho más dinero en computación, mientras que la capacitación lleva aún más tiempo debido a la asignación y utilización de GPU subóptimas».

Deja un comentario

También te puede interesar...

Descarga gratuita: Iconos de bicicletas

Descarga gratuita: Iconos de bicicletas Tu colección de iconos está a punto de tener una fiesta. Diseñada por Monike Borsoi de Brasil, este conjunto presenta más de 50 íconos de bicicletas y accesorios en formatos

Asegurar un entorno de múltiples inquilinos

Una de las principales preocupaciones sobre los servicios de computación en la nube se centra en la capacidad de proteger un entorno de múltiples inquilinos … En entornos basados ​​en la nube, la tenencia múltiple

Cómo cambiar el soporte de la SIM TIM

¿Quieres registrar una SIM TIM recargable que ahora está registrada con uno de tus padres, pero no sabes cómo hacerlo? ¿Le gustaría vender su suscripción TIM a otra persona, pero no sabe los costos involucrados

Novell ve la luz del día en el cuarto trimestre

Novell Inc. superó ligeramente las estimaciones de los analistas esta tarde, recaudando $ 7 millones, o 2 centavos por acción, para el cuarto trimestre. Las ventas para el trimestre que finalizó el 31 de octubre

Paradigma de SaaS | Krypton Solid

El software como servicio (SaaS) nunca ha estado tan caliente. Fue el tema principal en Grupo SandHill Santa Clara Software Conference 2005 la semana pasada. Y han surgido varias empresas para capitalizar la tendencia. Dada

Locuras de extensión Ethernet Lenovo X380

La semana pasada, decidí pedir un dongle Ethernet para mis portátiles Lenovo de octava generación. Cada uno de ellos, el Thinkpad Yoga X380 y el X1Carbon Extreme, incluye una interfaz Ethernet patentada. Se conecta a

BBC iPlayer llega a los iPad europeos

Los espectadores de algunos países europeos ahora pueden ver BBC iPlayer en el iPad por una tarifa mensual o anual. Los espectadores de algunos países europeos ahora pueden ver BBC iPlayer en el iPad por

Software espía con cualquier otro nombre

Los fabricantes de software espía saben que no gozan de una reputación especialmente buena. El año pasado, un representante de WhenU trató de convencerme de que la empresa estaba reformando sus formas, y recientemente 180solutions

Telstra lidera la carrera CBA de $ 1.3 mil millones

La empresa de telecomunicaciones más grande del país, Telstra, se ha convertido en el líder indiscutible en la carrera por ganar el acuerdo de subcontratación de telecomunicaciones a 10 años por valor de 1.300 millones

El fundador de NAI abre el código fuente de PGP

Zimmerman dice que no fue el momento adecuado … El creador de Network Associates (NAI), Phil Zimmerman, dijo que el lanzamiento del código fuente de PGP estaba retrasado. NAI anunció a fines de la semana

Cómo personalizar Galaxy S3 | Krypton Solid

Después de algunas semanas de uso, está cansado de la interfaz de usuario de Android (aunque agradable) en Samsung Galaxy s3? ¿Está buscando una aplicación válida para hacer que la pantalla de inicio de su