Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
Relaterade tillgångar
Senaste nytt
Ansvarsfriskrivning: XM Group-enheter tillhandahåller sin tjänst enbart för exekvering och tillgången till vår onlinehandelsplattform, som innebär att en person kan se och/eller använda tillgängligt innehåll på eller via webbplatsen, påverkar eller utökar inte detta, vilket inte heller varit avsikten. Denna tillgång och användning omfattas alltid av i) villkor, ii) riskvarningar och iii) fullständig ansvarsfriskrivning. Detta innehåll tillhandahålls därför uteslutande som allmän information. Var framför allt medveten om att innehållet på vår onlinehandelsplattform varken utgör en uppmaning eller ett erbjudande om att ingå några transaktioner på de finansiella marknaderna. Handel på alla finansiella marknader involverar en betydande risk för ditt kapital.
Allt material som publiceras på denna sida är enbart avsett för utbildnings- eller informationssyften och innehåller inte – och ska inte heller anses innehålla – rådgivning och rekommendationer om finansiella frågor, investeringsskatt eller handel, dokumentation av våra handelskurser eller ett erbjudande om, eller en uppmaning till, en transaktion i finansiella instrument eller oönskade finansiella erbjudanden som är riktade till dig.
Tredjepartsinnehåll, liksom innehåll framtaget av XM såsom synpunkter, nyheter, forskningsrön, analyser, kurser, andra uppgifter eller länkar till tredjepartssajter som återfinns på denna webbplats, tillhandahålls i befintligt skick, som allmän marknadskommentar, och utgör ingen investeringsrådgivning. I den mån som något innehåll tolkas som investeringsforskning måste det noteras och accepteras att innehållet varken har varit avsett som oberoende investeringsforskning eller har utarbetats i enlighet med de rättsliga kraven för att främja ett sådant syfte, och därför är att betrakta som marknadskommunikation enligt tillämpliga lagar och föreskrifter. Se till så att du har läst och förstått vårt meddelande om icke-oberoende investeringsforskning och riskvarning om ovannämnda information, som finns här.
