AI startup Recogni unveils new computing method to slash costs, power requirements
By Akash Sriram
Aug 20 (Reuters) -AI chip and software startup Recogni unveiled a novel computing method on Tuesday that could make its chips used to train and run artificial intelligence systems smaller, faster and less expensive to operate.
Backed by BMW BMWG.DE, Bosch and venture capital firm Mayfield, Recogni develops specialized chips and software to enable AI inferencing - the process of trained AI models making predictions or decisions on new, unseen data.
The company said the new patented system, called Pareto, utilizes a logarithmic approach that outperforms existing methods when running large AI models.
"It is a huge leap in all of the KPIs (key performance indicators) that influence silicon hardware system design when it comes to AI computing," Recogni's co-founder and VP of AI, Gilles Backhus told Reuters.
Current AI models, such as OpenAI's GPT-4 and Google's Gemini, require hundreds of thousands of power-hungry mathematical operations for the simple of prompts on chatbots like ChatGPT.
Recogni said that its new system converts these multiplication operations into additions, significantly reducing power consumption while maintaining accuracy.
The startup said it has already tested Pareto on AI models developed by Meta Platforms, Stability AI, and others.
Recogni, whose first chip was designed, manufactured Taiwan Semiconductor Manufacturing Co's 2330.TW seven nanometer process, said it was working with an unnamed partner to make Pareto more widely available and will announce the partnership in the coming months.
"We are speaking to companies that are putting hardware in data centers and offering it to the world to whoever wants to basically rent it ... that's definitely one of the deployment routes that we're considering," Backhus added.
Reporting by Akash Sriram in Bengaluru; Editing by Tasim Zahid
අදාළ වත්කම්
නවතම පුවත්
වියාචනය: XM Group සමාගම් ක්‍රියාත්මක කිරීම පමණක් වන සේවා සපයන අතර වෙබ් අඩවියේ හෝ වෙබ් අඩවිය හරහා ලබා ගත හැකි අන්තර්ගතය බැලීමට සහ/හෝ භාවිත කිරීමට පුද්ගලයෙකුට ඉඩ සලසමින් අපගේ මාර්ගගත වෙළඳ පහසුකම වෙත ප්‍රවේශය ලබා දෙන අතර වෙනස් කිරීමට හෝ පුළුල් කිරීමට අදහස් නොකරයි. එවැනි ප්‍රවේශය සහ භාවිතය සෑම විටම (i) නියමයන් සහ කොන්දේසි, (ii) අවදානම් අනතුරු ඇඟවීම් සහ (iii) සම්පූර්ණ වියාචනයට යටත් වේ. එබැවින් එවැනි අන්තර්ගතයක් සාමාන්‍ය තොරතුරුවලට වඩා වැඩි යමක් සපයා නොමැත. විශේෂයෙන්ම, අපගේ මාර්ගගත වෙළඳ පහසුකමේ අන්තර්ගතය පෙළඹවීමක් හෝ මූල්‍ය වෙළඳපොළවල කිසිදු ගනුදෙනුවක් සිදු කිරීමට ඉදිරිපත් කිරීමක් නොවන බව කරුණාවෙන් සලකන්න. ඕනෑම මූල්‍ය වෙළඳපොළක වෙළඳාම් කිරීම ඔබේ ප්‍රාග්ධනයට සැලකිය යුතු අවදානමක් එක් කරයි.
අපගේ මාර්ගගත වෙළඳ පහසුකමේ ප්‍රකාශිත සියලු කරුණු අධ්‍යාපනික/තොරතුරුමය අරමුණු සඳහා පමණක් අදහස් කෙරෙන අතර මූල්‍ය, ආයෝජන බදු හෝ වෙළඳ උපදෙස් සහ නිර්දේශයන්; හෝ අපගේ වෙළඳ මිල පිළිබඳ වාර්තාවක්; හෝ ඕනෑම මූල්‍ය උපකරණයක ඉදිරිපත් කිරීමක් හෝ ඒ සඳහා පෙළඹවීමක්; හෝ විශේෂ ඉල්ලීමකින් තොරව ඔබ වෙත ලබා දෙන ලද මූල්‍ය ප්‍රවර්ධනයන් ලෙස නොසැලකිය යුතුය.
ඕනෑම තෙවන පාර්ශවීය අන්තර්ගතයක් මෙන්ම XM විසින් සකසන ලද අන්තර්ගතය එනම් අදහස්, පුවත්, පර්යේෂණ, විශ්ලේෂණ, මිල ගණන් සහ වෙනත් තොරතුරු හෝ මෙම වෙබ් අඩවියේ අන්තර්ගත තෙවන පාර්ශවීය වෙබ් අඩවි සඳහා සබැඳි සාමාන්‍ය වෙළඳපොළ විවරණයක් ලෙස "පවතින පරිදි" සපයා ඇති අතර එහි ආයෝජන උපදෙස් ඇතුළත් නොවේ. ඕනෑම අන්තර්ගතයක් ආයෝජන පර්යේෂණයක් ලෙස අර්ථ දක්වා ඇති ප්‍රමාණයට, ආයෝජන පර්යේෂණයේ ස්වාධීනත්වය ප්‍රවර්ධනය කිරීමට නිර්මාණය කර ඇති නෛතික අවශ්‍යතාවලට අනුකූලව අන්තර්ගතය සකසා නොමැති බවත් එලෙස අරමුණු කර නොමැති බවත් ඔබ සලකා පිළිගත යුතු අතර එබැවින් එය අදාළ නීති සහ රෙගුලාසි යටතේ අලෙවිකරණ සන්නිවේදනයක් ලෙස සලකනු ලැබේ. ඉහත සඳහන් තොරතුරු සලකා මෙතනින් ප්‍රවේශ විය හැකි, ස්වාධීන නොවන ආයෝජන පර්යේෂණ සහ අවදානම් අනතුරු ඇඟවීම පිළිබඳ අපගේ දැනුම්දීම ඔබ කියවා තේරුම් ගෙන ඇති බව සහතික කර ගන්න.
