与此同时,该公司这次新增多位紧张职员(董事),包括Monolith砺思成本创始合资人曹曦等。
结合公开信息,无问芯穹目前已完成三轮融资,均未对外公布,领投方为红杉中国。此前的其他投资方包括徐汇成本、砺思成本、启明创投等机构。
据悉,无问芯穹(Infinigence AI)成立于2023年5月,创始团队由清华大学电子工程系推动成立,目标是打造大模型软硬件一体化最佳办理方案。依托行业领先且经由验证的AI打算优化能力,打造从算法到芯片、从芯片集群到模型,再从模型到运用的三阶段“M×N\"大众中间层产品,链接高下游,共建AGI(通用人工智能)时期大模型根本举动步伐。
无问芯穹创始人是清华大学电子工程系系主任汪玉教授;公司CEO是汪玉的学生、清华电子系2009级校友夏立雪博士,他曾赴美国杜克大学进行为期半年的访问学者;公法律定代表人曾书霖博士也是汪玉的学生。
汪玉教授
汪玉所任职的清华大学电子工程系,源于1932年景立的清华大学电机系电讯组,1952年建系,始称“无线电工程系”,1958年更名为“无线电电子学系”,1989年更现名至今,是中国半导体与集成电路行业的“黄埔军校”,包括燧原科技创始人兼CEO赵立东,现任清华大学校长、党委副布告王希勤等人都毕业于该专业。
1982年出生的汪玉,本科、硕士、博士均在清华大学,2007年汪玉选择留校任教,是目前清华大学最年轻的系主任,也被称为 AI 芯片的“探路者”,同时也是IEEE Fellow、清华大学电子系教授、国家自然科学基金精良青年基金得到者等。
2016年1月,以汪玉教授为卖力人的深度学习处理器项目,通过清华大学电子信息学院论证并得到支持。随后,项目团队以知识产权转化入股、创立AI芯片公司深鉴科技,进行家当化运营。其学生姚颂、单羿是深鉴科技创始成员,投资方包括高榕成本、金沙江创投、三星风投等机构。
2018年,深鉴科技被环球最大的FPGA厂商赛灵思收购,随后赛灵思也被美国芯片巨子AMD所收购。因此,深鉴科技成为海内商业化发展最成功的AI芯片公司。
2023年初,以ChatGPT为代表的 AI 大模型风靡环球,AI 2.0时期正在到来,但算力演习本钱高、难以统一高效支配算力举动步伐等仍是大模型发展制约成分。
今年7月在2023天下人工智能大会一场分论坛上,汪玉表示,无问芯穹是面向大模型的MxN软硬件联合优化中间层的平台,利用其平台举动步伐,推理本钱、微调本钱、人力本钱均有望降落10倍以上,同时文本长度也会增加10倍以上。
今年11月,无问芯穹联合清华大学、上海交通大学团队在Arxiv上揭橥了一篇论文,提出了一种新方法 FlashDecoding++,通过异步方法实现把稳力打算的真正并行,可以将GPU(图形处理器)推理提速2-4倍,在英伟达A100显卡上的推理均匀加速37%,以及同时支持英伟达和 AMD 的GPU产品。
大略理解为,无问芯穹的技能平台可办理国产GPU产品和英伟达、AMD这类高性能产品结合之后的解耦问题,由于国产GPU产品在双精度、算子、软件生态、CUDA等方面存在差异和掉队情形。“我们现在在做的便是。怎么样去面对顶层的各种各样模型和底层的各种各样的硬件。”汪玉表示。
本研究论文的三位共同一作分别是无问芯穹首席科学家、上海交通大学副教授戴国浩博士,无问芯穹研究演习生、清华大学硕士生洪可,无问芯穹研究演习生、上海交通大学博士生许珈铭。通讯作者为上海交通大学戴国浩教授和汪玉教授。
目前,FlashDecoding++已被集成于无问芯穹的大模型打算引擎“Infini-ACC”中。在「Infini-ACC」的支持下,无问芯穹正在开拓一系列大模型软硬件一体化的办理方案,个中包含大模型“无穹天权(Infini-Megrez)”、软硬件一体机等。
“现在大家都在做各种各样的非常厉害的芯片,但是,若何去把模型更好的支配在这些芯片上,让做运用开拓等领域职员不会花费额外的代价,实在会极大推动大模型研发。无问芯穹便是想要推动大模型技能举动步伐发展进入各行各业,这也是我们努力的方向。”汪玉今年7月表示。
截至发稿前,无问芯穹官方暂没有公布干系融资。
(本文首发钛媒体App,作者|林志佳)