Cerebras launches AI inference tool to challenge Nvidia
By Max A. Cherney
SAN FRANCISCO, Aug 27 (Reuters) -Cerebras Systems launched on Tuesday a tool for AI developers that allows them to access the startup's outsized chips to run applications, offering what it says is a much cheaper option than industry-standard Nvidia NVDA.O processors.
Access to Nvidia graphics processing units (GPUs) - often via a cloud computing provider - to train and deploy large artificial intelligence models used for applications such as OpenAI's ChatGPT can be difficult to obtain and expensive to run, a process developers refer to as inference.
"We're delivering performance that cannot be achieved by a GPU," Cerebras CEO Andrew Feldman told Reuters in an interview. "We're doing it at the highest accuracy, and we're offering it at the lowest price."
The inference portion of the AI market is expected to be fast-growing and attractive - ultimately worth tens of billions of dollars if consumers and businesses adopt AI tools.
The Sunnyvale, California-based company plans to offer several types of the inference product via a developer key and its cloud. The company will also sell its AI systems to customers who prefer to operate their own data centers.
Cerebras' chips - each the size of a dinner plate and called Wafer Scale Engines - avoid one of the issues with AI data crunching: the data crunched by large models that power AI applications typically won't fit on a single chip and can require hundreds or thousands of chips strung together.
That means Cerebras' chips can achieve speedier performances, Feldman said.
It plans to charge users as little as 10 cents per million tokens, which are one of the ways companies can measure the amount of output data from a large model.
Cerebras is aiming to go public and filed a confidential prospectus with the Securities and Exchange Commission this month, the company said.
Reporting by Max Cherney in San Francisco; Editing by Edwina Gibbs
Ativos relacionados
Últimas notícias
Isenção de Responsabilidade: As entidades do XM Group proporcionam serviço de apenas-execução e acesso à nossa plataforma online de negociação, permitindo a visualização e/ou uso do conteúdo disponível no website ou através deste, o que não se destina a alterar ou a expandir o supracitado. Tal acesso e uso estão sempre sujeitos a: (i) Termos e Condições; (ii) Avisos de Risco; e (iii) Termos de Responsabilidade. Este, é desta forma, fornecido como informação generalizada. Particularmente, por favor esteja ciente que os conteúdos da nossa plataforma online de negociação não constituem solicitação ou oferta para iniciar qualquer transação nos mercados financeiros. Negociar em qualquer mercado financeiro envolve um nível de risco significativo de perda do capital.
Todo o material publicado na nossa plataforma de negociação online tem apenas objetivos educacionais/informativos e não contém — e não deve ser considerado conter — conselhos e recomendações financeiras, de negociação ou fiscalidade de investimentos, registo de preços de negociação, oferta e solicitação de transação em qualquer instrumento financeiro ou promoção financeira não solicitada direcionadas a si.
Qual conteúdo obtido por uma terceira parte, assim como o conteúdo preparado pela XM, tais como, opiniões, pesquisa, análises, preços, outra informação ou links para websites de terceiras partes contidos neste website são prestados "no estado em que se encontram", como um comentário de mercado generalizado e não constitui conselho de investimento. Na medida em que qualquer conteúdo é construído como pesquisa de investimento, deve considerar e aceitar que este não tem como objetivo e nem foi preparado de acordo com os requisitos legais concebidos para promover a independência da pesquisa de investimento, desta forma, deve ser considerado material de marketing sob as leis e regulações relevantes. Por favor, certifique-se que leu e compreendeu a nossa Notificação sobre Pesquisa de Investimento não-independente e o Aviso de Risco, relativos à informação supracitada, os quais podem ser acedidos aqui.
