Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
Activos relacionados
Últimas noticias
Descargo de responsabilidades: Cada una de las entidades de XM Group proporciona un servicio de solo ejecución y acceso a nuestra plataforma de trading online, permitiendo a una persona ver o usar el contenido disponible en o a través del sitio web, sin intención de cambiarlo ni ampliarlo. Dicho acceso y uso están sujetos en todo momento a: (i) Términos y Condiciones; (ii) Advertencias de riesgo; y (iii) Descargo completo de responsabilidades. Por lo tanto, dicho contenido se proporciona exclusivamente como información general. En particular, por favor tenga en cuenta que, los contenidos de nuestra plataforma de trading online no son ni solicitud ni una oferta para entrar a realizar transacciones en los mercados financieros. Operar en cualquier mercado financiero implica un nivel de riesgo significativo para su capital.
Todo el material publicado en nuestra plataforma de trading online tiene únicamente fines educativos/informativos y no contiene –y no debe considerarse que contenga– asesoramiento ni recomendaciones financieras, tributarias o de inversión, ni un registro de nuestros precios de trading, ni una oferta ni solicitud de transacción con instrumentos financieros ni promociones financieras no solicitadas.
Cualquier contenido de terceros, así como el contenido preparado por XM, como por ejemplo opiniones, noticias, investigaciones, análisis, precios, otras informaciones o enlaces a sitios de terceros que figuran en este sitio web se proporcionan “tal cual”, como comentarios generales del mercado y no constituyen un asesoramiento en materia de inversión. En la medida en que cualquier contenido se interprete como investigación de inversión, usted debe tener en cuenta y aceptar que dicho contenido no fue concebido ni elaborado de acuerdo con los requisitos legales diseñados para promover la independencia en materia de investigación de inversiones y, por tanto, se considera como una comunicación comercial en virtud de las leyes y regulaciones pertinentes. Por favor, asegúrese de haber leído y comprendido nuestro Aviso sobre investigación de inversión no independiente y advertencia de riesgo en relación con la información anterior, al que se puede acceder aquí.
