Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
Kapcsolódó eszközök
Legfrissebb hírek
Felelősségkizáró nyilatkozat: Az XM Group entitásai csak végrehajtási szolgáltatást és online kereskedési platformunkhoz való hozzáférést biztosítanak, ami lehetővé teszi, hogy a felhasználók megtekinthessék és/vagy felhasználhassák a honlapon vagy azon keresztül elérhető tartalmakat, amelyek nem módosíthatók és nem egészíthetők ki. A hozzáférés és felhasználás mindig a következők függvénye: (i) Felhasználási feltételek; (ii) Kockázati figyelmeztetés; valamint (iii) Teljes felelősségkizáró nyilatkozat. Az ilyen tartalmakat ezért csupán általános információként biztosítjuk. Külön felhívjuk figyelmét arra, hogy az online kereskedési platformunkon található tartalmak nem felhívások vagy ajánlatok tranzakciókba történő belépésre a pénzügyi piacokon. A pénzügyi piacokon folytatott kereskedés jelentős kockázattal jár a tőkéjére nézve.
Az online kereskedési platformunkon közzétett anyagok kizárólag oktatási / tájékoztatási célt szolgálnak, és nem tartalmaznak (nem tekinthető úgy, hogy tartalmaznak) pénzügyi, befektetési adóügyi vagy kereskedési tanácsokat vagy ajánlásokat, illetve kereskedési áraink jegyzékét, vagy bármilyen pénzügyi instrumentummal végrehajtott tranzakcióra vonatkozó ajánlatot vagy felhívást, vagy Önnek szóló kéretlen pénzügyi promóciókat.
Az ezen a honlapon szereplő, külső felektől származó, valamint az XM által készített tartalmak, például vélemények, hírek, kutatások, elemzések, árak és egyéb információk vagy külső felek oldalaira utaló hivatkozások „jelenlegi állapotukban”, általános piaci magyarázatként jelennek meg, és nem minősülnek befektetési tanácsnak. Amennyiben bármely tartalom befektetéssel kapcsolatos kutatásként értelmezhető, meg kell értenie és el kell fogadnia, hogy a tartalom nem a befektetéssel kapcsolatos kutatás függetlenségének előmozdítására szolgáló jogi követelmények szerint készült, következésképpen a vonatkozó törvények és jogszabályok szerint marketingkommunikációnak minősül. Kérjük, feltétlenül olvassa el és értse meg a fenti információkkal kapcsolatos „nem független befektetéskutatással kalcsolatos tájékoztatónkat” és a kockázati figyelmeztetésünket, amelyek itt érhetők el.
