Esperanto presenta acelerador RISC‑V de 1.093 núcleos para inferencia en centros de datos

La startup Esperanto ha anunciado el ET-SoC-1, un acelerador de IA RISC‑V de 1.093 núcleos diseñado para zócalos aceleradores M.2 en entornos de centro de datos. Debutando en la conferencia Hot Chips, el chip ofrece 800 TOPS de rendimiento a través de seis módulos en una sola tarjeta Glacier Point manteniéndose dentro de un sobre de potencia de 120 W.

Aspectos destacados del diseño

ET-SoC‑1 contiene 1.088 núcleos ET‑Minion que ejecutan cargas de trabajo de IA, cuatro núcleos ET‑Maxion de alto rendimiento y un procesador de servicio RISC‑V. La arquitectura se centra en eficiencia energética: reloj de 1 GHz, alimentación de 0,4 V y proceso TSMC de 7 nm dan al chip un «punto dulce» de 20 W por unidad, con flexibilidad para operar entre 10 y 60 W.

Caso de uso objetivo: Inferencia de recomendación

Operadores de hiperescala requieren latencias de inferencia de 10 ms o menos para motores de recomendación. El chip aborda esto con 100 MB de memoria on-chip y 100 GB de capacidad off-chip, todo en la tarjeta aceleradora para evitar cuellos de botella PCIe. Soporte para INT8, FP16 y FP32 mantiene precisión donde importa.

Arquitectura de núcleos

Cada núcleo de 64 bits, en orden, ejecuta una unidad vectorial y tensorial optimizada para IA que entrega 128 GOPS por GHz. Una instrucción tensorial personalizada multi-ciclo puede ejecutar más de 64.000 operaciones por ciclo, reduciendo tráfico de instrucciones. Ocho núcleos forman un «vecindario» que comparte una caché L2 y permite cargas cooperativas, mientras que cuatro vecindarios componen un «Minion Shire». El chip ofrece 1.088 núcleos (o 1.024 para mayor rendimiento) y cuatro núcleos ET‑Maxion comparables a un Arm A‑72.

Sistema de memoria

Cuatro interfaces DDR de 64 bits (cada una con cuatro canales de 16 bits) entregan ancho de banda 96×16-bit. El chip usa LPDDR4x, logrando energía por bit comparable a HBM, mientras que la pila de seis chips alcanza una caché off-chip de 100 GB.

Posicionamiento competitivo

A diferencia de los grandes y hambrientos de potencia TPU o Inferentia, el enfoque de bajo consumo y multi-chip de Esperanto aprovecha el ecosistema open-compute. Operadores de hiperescala que buscan aceleradores estandarizados y rentables encuentran atractiva la solución de Esperanto.

Perspectivas futuras

Iteraciones futuras pueden apuntar a casos de uso en el borde con un ET-SoC-1 reducido. La versión actual está prevista para lanzamiento dentro de los próximos meses.

Fuente: Esperanto y entrevista de EE Times con Dave Ditzel, coautor del paper RISC de 1980.