Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
Powiązane aktywa
Najnowsze wiadomości
Wyłączenie odpowiedzialności: Każdy z podmiotów należących do XM Group świadczy usługę polegającą wyłącznie na realizacji zleceń i dostępie do naszej internetowej platformy transakcyjnej, umożliwiając danej osobie przeglądanie i/lub korzystanie z treści dostępnych na stronie lub za jej pośrednictwem, co nie ma na celu zmiany lub rozszerzenia tego zakresu, ani nie zmienia i nie rozszerza go. Taki dostęp i korzystanie z niego podlegają w każdej chwili: (i) Warunkom umowy, (ii) Ostrzeżeniom o ryzyku i (iii) Pełnemu wyłączeniu odpowiedzialności. Treści te są zatem podawane wyłącznie jako informacje ogólne. W szczególności należy pamiętać, że treści zawarte na naszej internetowej platformie transakcyjnej nie stanowią oferty ani zaproszenia do zawarcia jakichkolwiek transakcji na rynkach finansowych. Transakcje na każdym rynku finansowym wiążą się ze znacznym poziomem ryzyka dla twojego kapitału.
Wszystkie materiały publikowane na naszej internetowej platformie transakcyjnej są przeznaczone wyłącznie do celów edukacyjnych/informacyjnych i nie zawierają – i nie powinny być uważane za zawierające – porad ani rekomendacji dotyczących finansów, inwestycji, podatków lub transakcji, zapisu naszych cen transakcyjnych, ani też oferty lub zaproszenia do transakcji na jakichkolwiek instrumentach lub niezamówionych promocji finansowych.
Wszelkie treści pochodzące od podmiotów trzecich, jak i treści przygotowane przez XM, takie jak opinie, wiadomości, badania, analizy, ceny i inne informacje lub linki do stron podmiotów trzecich zawarte na tej stronie internetowej są udostępniane na zasadzie „tak, jak jest” jako ogólny komentarz rynkowy i nie stanowią porady inwestycyjnej. W zakresie, w jakim jakakolwiek treść jest interpretowana jako badania inwestycyjne, należy zauważyć i zaakceptować, że treść ta nie była przeznaczona i nie została przygotowana zgodnie z wymogami prawnymi mającymi na celu promowanie niezależności badań inwestycyjnych i jako taka byłaby uważana za komunikat marketingowy w świetle odpowiednich przepisów prawnych i regulacji. Upewnij się, że przeczytałeś(-aś) i rozumiesz nasze dokumenty Powiadomienie o zależnych badaniach inwestycyjnych oraz Ostrzeżenie o ryzyku, dotyczące powyższych informacji, do których można uzyskać dostęp tutaj.
