Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
Похожие активы
Последние новости
Правовая оговорка: Компании группы XM Group предоставляют только услуги по исполнению сделок и доступ к нашей торговой онлайн-среде, в которой пользователи могут просматривать и (или) пользоваться материалами, доступными на вебсайте либо доступными по ссылкам с данного сайта на другие. Предоставление доступа к онлайн-среде не меняет сути предоставляемых услуг и не расширяет их. Такой доступ и пользование материалами предоставляются с учетом:(i) «Условий и положений»; (ii) «Предупреждений о рисках» и (iii) полного текста «Правовой оговорки». Следовательно, подобные материалы предоставляются лишь в качестве информации общего характера. В частности, просим Вас иметь в виду, что материалы, содержащиеся в нашей торговой онлайн-среде, не являются ни просьбой осуществить какие-либо транзакции на финансовых рынках, ни предложением к осуществлению подобных транзакций. Торговля на любом финансовом рынке подразумевает большой риск потери Вашего капитала.
Все материалы, опубликованные в нашей торговой среде, предоставляются только в образовательных или информационных целях и не содержат (и не должны рассматриваться как содержащие) финансовых, инвестиционных или торговых рекомендаций, а также информации о стоимости наших услуг по предоставлению доступа к рынкам, либо предложения или содействия в проведении транзакций по какому-либо финансовому инструменту или по незапрашиваемым финансовым услугам по отношению к Вам.
Любые материалы на данном вебсайте, созданные третьими лицами, а также материалы, подготовленные XM, такие как мнения экспертов, новости, исследования, анализ, котировки и другая информация, а также ссылки на сторонние сайты предоставляются в виде «как есть», как рыночная информация общего характера, и не являют собой рекомендации по инвестициям. Принимая во внимание то, что любые материалы рассматриваются как инвестиционное исследование, Вам следует учесть и принять тот факт, что никакие материалы не подготавливались и не предназначались к использованию в соответствии с правовыми нормами, способствующими независимости инвестиционных исследований. Следовательно, материалы следует рассматривать как материалы рекламного характера согласно соответствующим законам и правовым нормам. Рекомендуем Вам прочесть и уяснить для себя положения наших «Уведомления о субъективном инвестиционном исследовании» и «Предупреждения о рисках» в отношении приведённой выше информации. С этими документами можно ознакомиться здесь.