Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
متعلقہ اثاثے
تازہ ترين خبريں
دستبرداری: XM Group کے ادارے ہماری آن لائن تجارت کی سہولت تک صرف عملدرآمد کی خدمت اور رسائی مہیا کرتے ہیں، کسی شخص کو ویب سائٹ پر یا اس کے ذریعے دستیاب کانٹینٹ کو دیکھنے اور/یا استعمال کرنے کی اجازت دیتا ہے، اس پر تبدیل یا توسیع کا ارادہ نہیں ہے ، اور نہ ہی یہ تبدیل ہوتا ہے یا اس پر وسعت کریں۔ اس طرح کی رسائی اور استعمال ہمیشہ مشروط ہوتا ہے: (i) شرائط و ضوابط؛ (ii) خطرہ انتباہات؛ اور (iii) مکمل دستبرداری۔ لہذا اس طرح کے مواد کو عام معلومات سے زیادہ کے طور پر فراہم کیا جاتا ہے۔ خاص طور پر، براہ کرم آگاہ رہیں کہ ہماری آن لائن تجارت کی سہولت کے مندرجات نہ تو کوئی درخواست ہے، اور نہ ہی فنانشل مارکیٹ میں کوئی لین دین داخل کرنے کی پیش کش ہے۔ کسی بھی فنانشل مارکیٹ میں تجارت میں آپ کے سرمائے کے لئے ایک خاص سطح کا خطرہ ہوتا ہے۔
ہماری آن لائن تجارتی سہولت پر شائع ہونے والے تمام مٹیریل کا مقصد صرف تعلیمی/معلوماتی مقاصد کے لئے ہے، اور اس میں شامل نہیں ہے — اور نہ ہی اسے فنانشل، سرمایہ کاری ٹیکس یا تجارتی مشورے اور سفارشات؛ یا ہماری تجارتی قیمتوں کا ریکارڈ؛ یا کسی بھی فنانشل انسٹرومنٹ میں لین دین کی پیشکش؛ یا اسکے لئے مانگ؛ یا غیر متنازعہ مالی تشہیرات پر مشتمل سمجھا جانا چاہئے۔
کوئی تھرڈ پارٹی کانٹینٹ، نیز XM کے ذریعہ تیار کردہ کانٹینٹ، جیسے: راۓ، خبریں، تحقیق، تجزیہ، قیمتیں اور دیگر معلومات یا اس ویب سائٹ پر مشتمل تھرڈ پارٹی کے سائٹس کے لنکس کو "جیسے ہے" کی بنیاد پر فراہم کیا جاتا ہے، عام مارکیٹ کی تفسیر کے طور پر، اور سرمایہ کاری کے مشورے کو تشکیل نہ دیں۔ اس حد تک کہ کسی بھی کانٹینٹ کو سرمایہ کاری کی تحقیقات کے طور پر سمجھا جاتا ہے، آپ کو نوٹ کرنا اور قبول کرنا ہوگا کہ یہ کانٹینٹ سرمایہ کاری کی تحقیق کی آزادی کو فروغ دینے کے لئے ڈیزائن کردہ قانونی تقاضوں کے مطابق نہیں ہے اور تیار نہیں کیا گیا ہے، اسی طرح، اس پر غور کیا جائے گا بطور متعلقہ قوانین اور ضوابط کے تحت مارکیٹنگ مواصلات۔ براہ کرم یقینی بنائیں کہ آپ غیر آزاد سرمایہ کاری سے متعلق ہماری اطلاع کو پڑھ اور سمجھ چکے ہیں۔ مذکورہ بالا معلومات کے بارے میں تحقیق اور رسک وارننگ ، جس تک رسائی یہاں حاصل کی جا سکتی ہے۔