En una entrevista con CRN, Alexis Crowell, director de marketing y gerente general de Axelera AI para América, dice que la compañía decidió utilizar la última conexión PCIe Gen 4 para su próximo chip Europa AI porque quiere “poder conectarse a tantos sistemas como sea posible”.
Axelera AI dijo el martes que su chip Europa AI recientemente presentado puede superar a ciertos productos de Nvidia utilizando menos energía y a un costo menor para la informática periférica de alto rendimiento, incluidos los modelos de lenguaje grandes y la visión por computadora.
El chip Europa marca un nuevo nivel de rendimiento de IA periférica en comparación con la línea Metis, con sede en los Países Bajos, y ofrece 629 billones de operaciones por segundo (TOPS) en un rango de potencia de 45 W, un gran paso adelante con respecto a su predecesor, que puede alcanzar un máximo de 214 TOPS mientras consume entre cuatro y ocho vatios, según el factor de forma.
(Relacionado: Las empresas emergentes de chips de IA buscan ventajas al interactuar con el canal)
El lanzamiento de Europa está previsto para el primer trimestre del próximo año, meses después de que Axelera AI lanzara un programa global de socios y promoviera al director de marketing Alexis Crowell para hacer crecer el negocio de la compañía en América, con un enfoque principal en Estados Unidos.
En una entrevista con CRN el viernes pasado, Crowell dijo que Axelera AI continuará vendiendo y respaldando sus productos Metis ya que la compañía planea ofrecer Europa a una parte “muy diferente” del mercado de computación periférica que necesita un rendimiento significativamente mayor.
Los usos específicos de Europa incluyen robótica, como humanoides y vehículos guiados automatizados, así como visión por computadora con fines de vigilancia y análisis donde hay un gran despliegue de cámaras, como en estadios, dijo Crowell.
El ejecutivo dijo que Axelera AI también ve juego para Europa en las “fábricas de inteligencia artificial”, refiriéndose a los centros de datos utilizados para el desarrollo avanzado de IA. Según Crowell, la empresa ya ha recibido solicitudes de propuestas de la fábrica de IA “que se relacionan con nuestra tecnología”.
Con estos casos de uso en mente, la empresa comercializa Europa para estaciones de trabajo, servidores perimetrales, servidores empresariales y servidores de montaje en bastidor. Por el contrario, Axelera AI posiciona a Metis para mini PC, PC de tamaño completo, estaciones de trabajo y pequeños servidores periféricos.
Por qué Europa utiliza PCIe Gen 4 y no Gen 5
En el lanzamiento, Europa estará disponible en factores de forma PCIe que pueden escalar de una a cuatro tarjetas en un sistema utilizando la conectividad PCIe Gen 4 de última generación. En el futuro, la empresa planea expandir Europa a otros factores de forma.
Crowell dijo que Axelera AI eligió usar PCIe Gen 4, en lugar de la última versión de PCIe Gen 5, que ofrece el doble de velocidad de transferencia de datos que la generación anterior, porque la compañía quiere “poder conectarse a tantos sistemas como sea posible”, señalando la gran huella de los dispositivos PCIe Gen 4 en todo el mundo.
“Lo que estamos tratando de hacer intencionalmente es asegurarnos de que no se trate solo de proyectos nuevos y limpios. Es que tienes algo de hardware, tienes todo tu (gasto de capital), pero tienes dinero que puedes (usar) para actualizar. Todo el mundo tiene una ranura PCIe, así que si puedo conectarla, entonces eso hace que sea más fácil de vender, francamente”, dijo.
Esto está en línea con el espíritu plug-and-play que Axelera AI ha promocionado en entrevistas anteriores, cuando su CEO y fundador Fabrizio Del Maffeo (en la foto) dijo a CRN a principios de este año: “Queremos vender tarjetas que los integradores puedan conectar a su computadora, instalar el software y simplemente ejecutar o desarrollar su algoritmo”.
Cómo compite Europa con los productos Nvidia
En gráficos proporcionados por Axelera AI, la compañía afirmó que Europa ofrecía de tres a seis veces mejor rendimiento por dólar en comparación con dos competidores anónimos para los modelos Llama 3. Observó la mayor ventaja con el modelo Llama 3 de 70 mil millones de parámetros, incluido un sistema de cuatro chips, y márgenes más pequeños pero aún impresionantes en comparación con los productos de la competencia con los modelos de visión 8B Llama 3 y 11B Llama 3.2.
La compañía también afirmó que Europa ofrece entre dos y tres veces más rendimiento por vatio que los mismos modelos Llama 3, y que la versión 70B vuelve a ofrecer la mayor ventaja a Axelera AI, esta vez con un sistema de un solo chip en la parte superior.
En comparación con un tercer competidor anónimo, Axelera AI dice que Europa puede proporcionar diferentes niveles de beneficios de rendimiento para cuadros por segundo en diferentes versiones de modelos de visión por computadora, incluido ResNet-50 y varios modelos de Yolo.
Si bien Axelera no nombró los productos de la competencia en las listas, Crowell le dijo a CRN que todos son productos recientes de Nvidia utilizados para computación periférica, incluida la GPU L40 y productos en chip Jetson no especificados.
“Somos muy buenos contra el L40”, dijo.
Europa dependerá del mismo paquete de software Voyager utilizado para sus chips Metis. Crowell enfatizó la importancia del software para Axelera y dijo que la mitad de su fuerza laboral de más de 200 personas se concentra en esta área.
“Entonces, si las empresas quieren implementar tanto (Metis) como (Europa) porque tienen casos de uso mixtos (y) tienen soluciones mixtas, absolutamente pueden hacerlo. Es una herramienta, y creo que es muy importante porque la facilidad de uso es la única forma en que cualquiera de esos socios realmente adoptará (los chips Axelera)”, dijo.
Cómo Europa tiene más rendimiento que Metis
Con Europa, Axelera AI ha duplicado el número de procesadores de IA a ocho y cuadriplicado la cantidad máxima de memoria a 64 GB por chip en comparación con Metis. El chip también tiene un ancho de banda DRAM de 200 GB/s y 128 MB de SRAM L2.
Otro gran diferenciador del Europa es la capacidad del chip para realizar un preprocesamiento y posprocesamiento completo gracias a la integración de 16 núcleos de procesamiento vectorial RISC-V. Por el contrario, los sistemas que utilizan chips Metis deben descargar el procesamiento previo y posterior a la CPU del sistema.
“Ahora podemos asumir gran parte de eso directamente de una manera que proporciona un costo total de propiedad mucho mejor para los clientes”, dijo Crowell.
Europa también tiene un decodificador de video incorporado que puede ayudar a optimizar el rendimiento de los modelos de visión por computadora en chips.
“Estamos tratando de hacerlo aún más fácil a medida que los clientes migran cada vez más sus canales hacia la IA y la dejan funcionar de manera más eficiente, más rentable y con mayor productividad”, dijo Crowell.
