AI startup Recogni unveils new computing method to slash costs, power requirements
By Akash Sriram
Aug 20 (Reuters) -AI chip and software startup Recogni unveiled a novel computing method on Tuesday that could make its chips used to train and run artificial intelligence systems smaller, faster and less expensive to operate.
Backed by BMW BMWG.DE, Bosch and venture capital firm Mayfield, Recogni develops specialized chips and software to enable AI inferencing - the process of trained AI models making predictions or decisions on new, unseen data.
The company said the new patented system, called Pareto, utilizes a logarithmic approach that outperforms existing methods when running large AI models.
"It is a huge leap in all of the KPIs (key performance indicators) that influence silicon hardware system design when it comes to AI computing," Recogni's co-founder and VP of AI, Gilles Backhus told Reuters.
Current AI models, such as OpenAI's GPT-4 and Google's Gemini, require hundreds of thousands of power-hungry mathematical operations for the simple of prompts on chatbots like ChatGPT.
Recogni said that its new system converts these multiplication operations into additions, significantly reducing power consumption while maintaining accuracy.
The startup said it has already tested Pareto on AI models developed by Meta Platforms, Stability AI, and others.
Recogni, whose first chip was designed, manufactured Taiwan Semiconductor Manufacturing Co's 2330.TW seven nanometer process, said it was working with an unnamed partner to make Pareto more widely available and will announce the partnership in the coming months.
"We are speaking to companies that are putting hardware in data centers and offering it to the world to whoever wants to basically rent it ... that's definitely one of the deployment routes that we're considering," Backhus added.
Reporting by Akash Sriram in Bengaluru; Editing by Tasim Zahid
Các tài sản liên quan
Tin mới
Khước từ trách nhiệm: các tổ chức thuộc XM Group chỉ cung cấp dịch vụ khớp lệnh và truy cập Trang Giao dịch trực tuyến của chúng tôi, cho phép xem và/hoặc sử dụng nội dung có trên trang này hoặc thông qua trang này, mà hoàn toàn không có mục đích thay đổi hoặc mở rộng. Việc truy cập và sử dụng như trên luôn phụ thuộc vào: (i) Các Điều kiện và Điều khoản; (ii) Các Thông báo Rủi ro; và (iii) Khước từ trách nhiệm toàn bộ. Các nội dung như vậy sẽ chỉ được cung cấp dưới dạng thông tin chung. Đặc biệt, xin lưu ý rằng các thông tin trên Trang Giao dịch trực tuyến của chúng tôi không phải là sự xúi giục, mời chào để tham gia bất cứ giao dịch nào trên các thị trường tài chính. Giao dịch các thị trường tài chính có rủi ro cao đối với vốn đầu tư của bạn.
Tất cả các tài liệu trên Trang Giao dịch trực tuyến của chúng tôi chỉ nhằm các mục đích đào tạo/cung cấp thông tin và không bao gồm - và không được coi là bao gồm - các tư vấn tài chính, đầu tư, thuế, hoặc giao dịch, hoặc là một dữ liệu về giá giao dịch của chúng tôi, hoặc là một lời chào mời, hoặc là một sự xúi giục giao dịch các sản phẩm tài chính hoặc các chương trình khuyến mãi tài chính không tự nguyện.
Tất cả nội dung của bên thứ ba, cũng như nội dung của XM như các ý kiến, tin tức, nghiên cứu, phân tích, giá cả, các thông tin khác hoặc các đường dẫn đến trang web của các bên thứ ba có trên trang web này được cung cấp với dạng "nguyên trạng", là các bình luận chung về thị trường và không phải là các tư vấn đầu tư. Với việc các nội dung đều được xây dựng với mục đích nghiên cứu đầu tư, bạn cần lưu ý và hiểu rằng các nội dung này không nhằm mục đích và không được biên soạn để tuân thủ các yêu cầu pháp lý đối với việc quảng bá nghiên cứu đầu tư này và vì vậy, được coi như là một tài liệu tiếp thị. Hãy chắc chắn rằng bạn đã đọc và hiểu Thông báo về Nghiên cứu Đầu tư không độc lập và Cảnh báo Rủi ro tại đây liên quan đến các thông tin ở trên.
