Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
Asset collegati
Ultime news
Disclaimer: le entità di XM Group forniscono servizi di sola esecuzione e accesso al nostro servizio di trading online, che permette all'individuo di visualizzare e/o utilizzare i contenuti disponibili sul sito o attraverso di esso; non ha il proposito di modificare o espandere le proprie funzioni, né le modifica o espande. L'accesso e l'utilizzo sono sempre soggetti a: (i) Termini e condizioni; (ii) Avvertenza sui rischi e (iii) Disclaimer completo. Tali contenuti sono perciò forniti a scopo puramente informativo. Nello specifico, ti preghiamo di considerare che i contenuti del nostro servizio di trading online non rappresentano un sollecito né un'offerta ad operare sui mercati finanziari. Il trading su qualsiasi mercato finanziario comporta un notevole livello di rischio per il tuo capitale.
Tutto il materiale pubblicato sul nostro servizio di trading online è unicamente a scopo educativo e informativo, e non contiene (e non dovrebbe essere considerato come contenente) consigli e raccomandazioni di carattere finanziario, di trading o fiscale, né informazioni riguardanti i nostri prezzi di trading, offerte o solleciti riguardanti transazioni che possano coinvolgere strumenti finanziari, oppure promozioni finanziarie da te non richieste.
Tutti i contenuti di terze parti, oltre ai contenuti offerti da XM, siano essi opinioni, news, ricerca, analisi, prezzi, altre informazioni o link a siti di terzi presenti su questo sito, sono forniti "così com'è", e vanno considerati come commenti generali sui mercati; per questo motivo, non possono essere visti come consigli di investimento. Dato che tutti i contenuti sono intesi come ricerche di investimento, devi considerare e accettare che non sono stati preparati né creati seguendo i requisiti normativi pensati per promuovere l'indipendenza delle ricerche di investimento; per questo motivo, questi contenuti devono essere considerati come comunicazioni di marketing in base alle leggi e normative vigenti. Assicurati di avere letto e compreso pienamente la nostra Notifica sulla ricerca di investimento non indipendente e la nostra Informativa sul rischio riguardante le informazioni sopra citate; tali documenti sono consultabili qui.
