Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
Actifs liés
Dernières actualités
Avertissement : Les entités de XM Group proposent à notre plateforme de trading en ligne un service d'exécution uniquement, autorisant une personne à consulter et/ou à utiliser le contenu disponible sur ou via le site internet, qui n'a pas pour but de modifier ou d'élargir cette situation. De tels accès et utilisation sont toujours soumis aux : (i) Conditions générales ; (ii) Avertissements sur les risques et (iii) Avertissement complet. Un tel contenu n'est par conséquent fourni que pour information générale. En particulier, sachez que les contenus de notre plateforme de trading en ligne ne sont ni une sollicitation ni une offre de participation à toute transaction sur les marchés financiers. Le trading sur les marchés financiers implique un niveau significatif de risques pour votre capital.
Tout le matériel publié dans notre Centre de trading en ligne est destiné à des fins de formation / d'information uniquement et ne contient pas – et ne doit pas être considéré comme contenant – des conseils et recommandations en matière de finance, de fiscalité des investissements ou de trading, ou un enregistrement de nos prix de trading ou une offre, une sollicitation, une transaction à propos de tout instrument financier ou bien des promotions financières non sollicitées à votre égard.
Tout contenu tiers, de même que le contenu préparé par XM, tels que les opinions, actualités, études, analyses, prix, autres informations ou liens vers des sites tiers contenus sur ce site internet sont fournis "tels quels", comme commentaires généraux sur le marché et ne constituent pas des conseils en investissement. Dans la mesure où tout contenu est considéré comme de la recherche en investissement, vous devez noter et accepter que le contenu n'a pas été conçu ni préparé conformément aux exigences légales visant à promouvoir l'indépendance de la recherche en investissement et, en tant que tel, il serait considéré comme une communication marketing selon les lois et réglementations applicables. Veuillez vous assurer que vous avez lu et compris notre Avis sur la recherche en investissement non indépendante et notre avertissement sur les risques concernant les informations susdites, qui peuvent consultés ici.
