Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
Σχετιζόμενα σύμβολα
Τελευταία νέα
Δήλωση αποποίησης ευθύνης: Οι οντότητες του ομίλου XM Group παρέχουν υπηρεσίες σε βάση εκτέλεσης μόνο και η πρόσβαση στην ηλεκτρονική πλατφόρμα συναλλαγών μας που επιτρέπει στον ενδιαφερόμενο να δει ή/και να χρησιμοποιήσει το περιεχόμενο που είναι διαθέσιμο στην ιστοσελίδα μας ή μέσω αυτής, δε διαφοροποιεί ούτε επεκτείνει αυτές τις υπηρεσίες πέραν αυτού ούτε προορίζεται για κάτι τέτοιο. Η εν λόγω πρόσβαση και χρήση υπόκεινται σε: (i) Όρους και προϋποθέσεις, (ii) Προειδοποιήσεις κινδύνου και (iii) Πλήρη δήλωση αποποίησης ευθύνης. Ως εκ τούτου, το περιεχόμενο αυτό παρέχεται μόνο ως γενική πληροφόρηση. Λάβετε ιδιαιτέρως υπόψη σας ότι τα περιεχόμενα της ηλεκτρονικής πλατφόρμας συναλλαγών μας δεν αποτελούν παρότρυνση, ούτε προσφορά για να προβείτε σε οποιεσδήποτε συναλλαγές στις χρηματοπιστωτικές αγορές. Η πραγματοποίηση συναλλαγών στις χρηματοπιστωτικές αγορές ενέχει σημαντικό κίνδυνο για το κεφάλαιό σας.
Όλο το υλικό που δημοσιεύεται στην ηλεκτρονική πλατφόρμα συναλλαγών μας προορίζεται για εκπαιδευτικούς/ενημερωτικούς σκοπούς μόνο και δεν περιέχει, ούτε θα πρέπει να θεωρηθεί ότι περιέχει συμβουλές και συστάσεις χρηματοοικονομικές ή σε σχέση με φόρο επενδύσεων και την πραγματοποίηση συναλλαγών, ούτε αρχείο των τιμών διαπραγμάτευσής μας ούτε και προσφορά ή παρότρυνση για συναλλαγή οποιωνδήποτε χρηματοπιστωτικών μέσων ή ανεπιθύμητες προς εσάς προωθητικές ενέργειες.
Οποιοδήποτε περιεχόμενο τρίτων, καθώς και περιεχόμενο που εκπονείται από την ΧΜ, όπως απόψεις, ειδήσεις, έρευνα, αναλύσεις, τιμές, άλλες πληροφορίες ή σύνδεσμοι προς ιστότοπους τρίτων το οποίο περιέχεται σε αυτήν την ιστοσελίδα παρέχεται «ως έχει», ως γενικός σχολιασμός της αγοράς και δεν αποτελεί επενδυτική συμβουλή. Στον βαθμό που οποιοδήποτε περιεχόμενο ερμηνεύεται ως επενδυτική έρευνα, πρέπει να λάβετε υπόψη και να αποδεχτείτε ότι το περιεχόμενο δεν προοριζόταν και δεν έχει προετοιμαστεί σύμφωνα με τις νομικές απαιτήσεις που αποσκοπούν στην προώθηση της ανεξαρτησίας της επενδυτικής έρευνας και ως εκ τούτου, θα πρέπει να θεωρηθεί ως επικοινωνία μάρκετινγκ σύμφωνα με τους σχετικούς νόμους και κανονισμούς. Παρακαλούμε εξασφαλίστε ότι έχετε διαβάσει και κατανοήσει τη Γνωστοποίησή μας περί Μη ανεξάρτητης επενδυτικής έρευνας και την Προειδοποίηση ρίσκου όσον αφορά τις παραπάνω πληροφορίες, τις οποίες μπορείτε να βρείτε εδώ.
