Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
Gerelateerde activa
Laatste nieuws
Disclaimer: De entiteiten van de XM Group bieden diensten en toegang tot ons online handelsplatform op basis van uitsluitend-uitvoering, waardoor een persoon de beschikbare content op of via de website kan bekijken en/of gebruiken, zonder dat dit is bedoeld voor wijziging of uitbreiding. Dergelijk(e) toegang en gebruik vallen onder: (i) de algemene voorwaarden; (ii) risicowaarschuwingen; en de (iii) volledige disclaimer. Dergelijke content wordt daarom alleen aangeboden als algemene informatie. Wees u er daarnaast vooral van bewust dat de inhoud op ons online handelsplatform geen verzoek of aanbieding omvat om transacties op de financiële markten uit te voeren. Het beleggen op welke financiële markt dan ook vormt een aanzienlijk risico voor uw vermogen.
Alle materialen die op ons online handelsplatform worden gepubliceerd zijn bedoeld voor educatieve/informatieve doeleinden en omvatten geen – en moeten niet worden beschouwd als het bevatten van – financieel, vermogensbelastings- of handelsadvies en aanbevelingen, of een overzicht van onze handelsprijzen, of een aanbod of aanvraag van een transactie in financiële instrumenten of ongevraagde financiële promoties voor u.
Alle content van derden, alsmede content die is voorbereid door XM, zoals opinies, nieuws, onderzoeken, analyses, prijzen en andere informatie of koppelingen naar externe websites op deze website worden aangeboden op een 'zoals-ze-zijn'-basis, als algemene marktcommentaren, en vormen geen beleggingsadvies. Voor zover dat content wordt beschouwd als beleggingsonderzoek, moet u zich ervan bewust zijn en accepteren dat de content niet bedoeld was en niet is voorbereid in overeenstemming met de wettelijke vereisten die zijn opgesteld om de onafhankelijkheid van beleggingsonderzoek te bevorderen en als zodanig onder de geldende wetgeving en richtlijnen moet worden beschouwd als marketingcommunicatie. Zorg ervoor dat u onze Mededeling over niet-onafhankelijk beleggingsonderzoek en risicowaarschuwing in verband met de voorgaande informatie doorneemt en begrijpt; die kunt u hier lezen.
