Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
Související aktiva
Poslední novinky
Zřeknutí se odpovědnosti: Subjekty skupiny XM Group poskytují služby a přístup do naší online obchodní platformy v režimu „execution-only”, což osobám umožní prohlížet a/nebo použít obsah, dostupný zde nebo prostřednictvím webové stránky, který není určený ke změně nebo šíření. Na takový přístup a použití se vždy vztahují: (i) Všeobecné obchodní podmínky; (ii) Upozornění na rizika; a (iii) Úplné zřeknutí se odpovědnosti. Takový obsah je proto poskytovaný pouze jako obecné informace. Mějte především na paměti, že obsah naší online obchodní platformy není ani žádostí, ani nabídkou vstupu do jakýchkoliv transakcí na finančních trzích. Obchodování na jakémkoliv finančním trhu zahrnuje významnou úroveň rizika pro váš kapitál.
Veškerý materiál, zveřejněný na naší online obchodní platformě, je určený pouze pro vzdělávací/informační účely a neobsahuje ani by neměl být považovaný za finanční, investiční, daňové nebo obchodní rady a doporučení, ani záznamy o našich obchodních cenách, nebo nabídku transakce s jakýmikoliv finančními instrumenty, či nevyžádadnou propagaci pro vaši osobu.
Jakýkoliv obsah třetích stran a také obsah, připravený společností XM, jako jsou názory, novinky, výzkum, analýzy, ceny, další informace nebo odkazy na webové stránky třetích stran, které jsou zobrazeny na tomto webu, jsou poskytovány v neupravené verzi jako obecný tržní komentář, a nepředstavují investiční radu. Pokud je jakýkoliv obsah uváděný jako investiční výzkum, musíte si uvědomit a přijmout, že tento obsah nebyl určený a nebyl připravený v souladu se zákonnými požadavky, vytvořenými pro podporu nezávislosti investičního výzkumu, a jako takový by měl být podle příslušných zákonů a předpisu považovaný pouze za marketingovou komunikaci. Ujistěte se, že jste si přečetli a plně rozumíte našemu Oznámení o seznámení se s riziky a investičním výzkumu, který není nezávislý, týkající se výše uvedených informací, a ke kterým lze přejít zde.
