Aún así, los desarrolladores dicen que traer código de CUDA de NVIDIA a ROCM no es un proceso refined, lo que significa que generalmente se centran en construir solo un proveedor de chips.
“Rocm es increíble, es de código abierto, pero se ejecuta en el equipment de un proveedor”, Lattner le dijo a la multitud en el evento AI AI de AMD en junio. Luego hizo su tono de por qué el software de Modular es más portátil y hace que GPU sea mucho más rápido.
La charla de Lattner en AMD es representativa del tipo de baile que Lattner y Davis necesitan hacer mientras difunden el evangelio modular. Hoy, Nvidia y AMD child socios cruciales para la empresa. En un futuro universo, también child competidores directos. Parte de la propuesta de valor de Modular es que puede enviar software program para optimizar las GPU incluso más rápido que NVIDIA, ya que puede haber una brecha de meses entre cuando NVIDIA envía una nueva GPU y cuándo libera un “núcleo de atención”, una parte crítica del software application GPU.
“En este momento, Modular es gratuito para AMD y NVIDIA, pero con el tiempo se puede ver que ambas compañías se sienten amenazadas por ROCM o CUDA no es el mejor software application que se encuentra encima de sus chips”, dice Munichiello. También le preocupa que los clientes potenciales de la nube puedan resistirse a tener que pagar una capa de software application adicional como la de Modular.
Escribir software application para GPU también es una especie de “arte oscuro”, dice Waleed Atallah, el cofundador y chief executive officer de Mako, una compañía de optimización de núcleo de GPU. “Mapear un algoritmo a una GPU es algo increíblemente difícil de hacer. Hay cien millones de desarrolladores de software application, 10, 000 que escriben núcleos de GPU y tal vez cien que pueden hacerlo bien”.
Mako está construyendo agentes de IA para optimizar la codificación para las GPU. Algunos desarrolladores piensan que ese es el futuro para la industria, en lugar de construir un compilador global o un nuevo lenguaje de programación como Modular. Mako acaba de recaudar $ 8 5 millones en fondos iniciales de Flybridge Funding y el acelerador de inicio Neo.
“Estamos tratando de adoptar un enfoque iterativo para codificarlo y automatizarlo disadvantage IA”, dice Atallah. “Al hacer que sea más fácil escribir el código, crece exponencialmente el número de personalities que pueden hacerlo. Hacer otro compilador es más una solución fija”.
Lattner señala que Modular también usa herramientas de codificación de IA. Pero la compañía tiene la intención de abordar toda la pila de codificación, no solo los núcleos.
Hay aproximadamente 250 millones de razones por las cuales los inversores piensan que este enfoque es practical. Lattner es una especie de luminaria en el mundo de la codificación, ya que ha construido previamente el Proyecto de Infraestructura de Infraestructura del Compilador de código abierto LLVM, así como el Swift Programs Language de Apple. Él y Davis están convencidos de que este es un problema de software que debe resolverse fuera de un entorno tecnológico grande, donde la mayoría de las empresas se centran en construir software para su propia pila de tecnología.
“Cuando salí de Google, estaba un poco deprimido, porque realmente quería resolver esto”, dice Lattner. “Lo que nos dimos cuenta es que no se trata de characters inteligentes, no se trata de dinero, no se trata de la capacidad. Es un problema estructural”.
Munichiello compartió un rule común en el mundo de la inversión tecnológica: dice que está apostando a los propios fundadores tanto como su producto. “Es muy obstinado e impaciente, y también está bien la mayor parte del tiempo”, dijo Munichiello sobre Lattner. “Steve Jobs también period así: no tomó decisiones basadas en el consenso, pero a menudo tenía razón”.