量子位 | "大众年夜众号 QbitAI
这个月,PPTV创始人姚欣再次站到了聚光灯下,组织了一场分布式云打算论坛,向外界揭开了他的新篇章。
姚欣的第二次创业,瞄准了云做事,要打造 AI 时期的根本举动步伐。
但姿势独特:公司没有自建IDC和购买GPU,而是通过独特的办法成为了全国最多节点的云做事商。
成立六年来,PPIO派欧云已获三轮共4亿元的融资,包括百川智能创始人王小川、迅雷创始人程浩、前微软Azure中国总裁申元庆在内的19位CEO都参与了天使投资。
姚欣,曾是互联网视频时期的开拓者,2004年,他在华中科技大学读研时辍学创业,发明了P2P-Streaming协议,创办了覆盖环球4.5亿用户的视频平台PPTV,比YouTube还早1年。
PPTV在PC时期创立,移动互联网早期就迅速崛起,2012年位列中国视频网站用户规模第2名。然而,2014年,姚欣将PPTV出售,彷佛淡出了"大众视野。
姚欣重回到公共视野确当下,我们不禁想问,在市场靠近饱和的环境下,为何姚欣坚持要选择云做事赛道?又因何受到投资者如此青睐?
一方面,时势造英雄,2020年Gartner开始推崇的分布式云观点,给了姚欣这个“分布式信徒”难得的发展机遇;
另一方面,英雄造时势,姚欣也前瞻性地选择跳过演习算力业务,全部聚焦发展分布式推理算力,下注AI运用遍及对付推理算力的巨大需求。
当分布式打算遇见AI Infra要理解姚欣的再创业,可以先从这样的详细案例中感知——
海内某Top3小说推广APP,开始为创作者供应AIGC生图功能,吸引了更多的作者和读者。
AI技能带来的流量增长自然是一件好事,但与此同时带来的运维压力也陡然上升。
而且随着这样的新功能被更多人所熟知,后台做事器性能也碰着了瓶颈,高峰期间天生速率明显变慢的情形开始逐步显现。
在过去,办理的办法大略粗暴——扩容,但一味地选择这种办法,实际并非长久之计,不仅代价高昂,而且在面对不愿定性增长时显得力不从心。
而PPIO的分布式架构,便是针对这种场景和痛点而生。
这不仅是一种技能选择,更是一种为未来打下根本的架构方案。
它冲破了传统集中式架构的瓶颈,不仅为企业大幅降落了运维压力,还将系统的处理效率提升到了一个全新的高度。
△PPIO CTO王闻宇先容派欧算力云产品
利用PPIO供应的AI推理平台,免去了自行支配后台做事的繁冗过程,通过API即可调用做事,不再须要自走运维,本钱直接减少了40%。
速率方面,得益于PPIO弘大的分布式算力网络,网络拥堵征象大幅降落。
据理解,采取PPIO做事后,该小说APP的均匀生图韶光从10秒缩短到了2秒,生产效率提升了50%。
姚欣还先容,如果外洋AI运用利用其推理做事,能够得到比硅谷还要高的综合性价比。
这得益于PPIO遍布环球的分布式云做事网络,无论用户身处何地,总能找到近间隔的算力节点,得到20毫秒级的低延迟体验。
姚欣选择分布式推理并非有时,而是基于他多年对全体行业的深入理解。
根据TIRIAS research的研究,随着AI的快速发展,未来算力需求的构成将发生重大变革,95%的算力需求来自推理,演习算力仅占5%。推理将逐渐成为AI打算的核心。
姚欣看准了AI时期算力构造转型的机遇,将重心放在推理侧。
推理打算的核心在于实时处理用户要求,低延迟和高效率是它的生命线。
而分布式技能,正好是实现这一需求的不二之选——
通过将推理打算分布到环球多个节点,PPIO能够最大限度地减少到用户的时延;
同时根据不同区域的需求颠簸智能调度算力资源,确保全局打算效率始终保持最佳状态。
分布式推理不仅是一次技能创新,更是一种新的商业模式,让中小企业和开拓者不再为算力门槛所困,让他们也能走进AI天下。
比较之下,传统的大型数据中央虽然具备强大的处理能力,但其本钱高昂,不仅包括硬件设备的购置和系统掩护,还包括高度集中带来的大量散热能耗的需求。
分布式云通过调度分布在全国各地的中小型数据中央或边缘打算节点,充分利用当地高性价比能源和算力资源,降落总体运营本钱。
当然,姚欣还提出了“三年内降本1000倍”的期望,要想成功实现,除了弘大的分布式算力网络,还要有更多创新技能的支撑。
为此,姚欣给出了他的答案——Serverless弹性调度和推理加速优化。
个中,Serverless架构被用来办理跨区域做事过程中节点数量弘大、用户要求繁芜的问题。
该架构通过智能整合分布式算力,自动实现弹性伸缩与按需付费。
用户可将自有镜像或模型托管到该平台,不用再担心海量用户的并发相应问题,亦无需亲自管理和掩护大量算力做事器。
△派欧算力云Serverless产品自动弹性触发时延和单实例冷启动速率
除此之外,PPIO还通过算法、系统和硬件的协同创新,推出了针对大措辞模型特点的推理加速引擎。
借助全链路FP8量化、KV Cache稀疏压缩算法,以及投契采样等技能,显著提升了推理的加速性能,冲破了显存、算力和带宽的限定,开释了大模型推理的更大潜能。
这次的分布式云打算论坛,标志着姚欣的第二次创业取得了阶段性的成功。
这背后除了有姚欣自己对行业的独到见地,还有分布式云自身与云做事发展形势的契合。
分布式云的天时地利在海内的云做事领域,有很多我们耳熟能详的选手,华为、百度、腾讯、阿里等浩瀚互联网大厂,都拥有自己的云做事产品。
但这些云做事无一例外都采取了集中式的办法,更加衬托出了姚欣做的分布式云系统的别具一格。
不过,姚欣强调,分布式与集中式并非对立的选择,而是相互补充的互助模式。
技能上看,PPIO采取了集中式云做事也在用的基于K8S技能的云原生架构,能够与集中式云进行标准的互联互通;
商业模式上看,用户也不会过度关注自己的产品究竟运行在哪种云,他们更在意的,是终极的运行效果。
归根结底,究竟该当采取哪种运算办法,取决于详细的运用处景。
在竞争与互助共存的格局当中,分布式云的独特上风在于,它能够办理集中式云难以搪塞的需求。
随着AI新运用的大量落地,产生了大量的实时数据打算和海量IO吞吐,AI带来的新算力需求以超越摩尔定律的办法不断膨胀。
正是这些大量实时打算需求的呈现,让传统的集中式算力中央显得捉襟见肘,但这真的是由于算力总量不足用吗?
答案是否定的。
据统计,我国有47%,也便是将近一半的算力都处于闲置状态,未被充分利用。
造成这一征象的核心缘故原由,是算力需求与供给的不匹配。数据中央和超算中央的培植过于超前,但数据产生地与算力节点每每相距甚远,造成了算力不敷的表象。
以是,算力唯有“去中央化”,下沉分布到网络侧边缘,才能办理时延和海量数据IO吞吐问题。
PPIO做的便是这样的事情,其本身不生产算力,而是作为空闲算力的“搬运工”和“指挥员”,办理算力时空分布不均、利用效率低下的窘境。
当然,姚欣的愿景不仅限于当前的云做事,他提出了算力发展的三条曲线,目前已经基本建成的,是个中的前两条——边缘云(赤色)和算力云(绿色)。
去年,PPIO更是根据这两条“曲线”,将公司的业务线拆分成了两个奇迹部。
而“第三条曲线”,则是实现各个组织机构间,算力资源的实时调度和自由交易。
姚欣认为,从技能角度看,业界已经有能力实现这种模式,但在家当共识和商业模式上,还须要参与者的共同努力。
但就像从云打算出身之初,人们都不相信公有云,到后来公共云做事逐渐成为主流一样,这种“算力共享”也将经历一个形成共识的过程。
而之以是选择这条分歧凡响的创业之路,源自姚欣丰富的创业经历与技能崇奉。
创业者姚欣:立志把分布式技能写进教科书公众年夜众眼中的姚欣有很多标签:大学创业、网络电视、互联网、投资人等。
然而,常常被忽略的是,他在技能方面同样拥有着深厚的积淀。
事实上,姚欣自从高中时起便是一逻辑学霸。
他曾连续两年得到全国奥林匹克打算机竞赛一等奖,1999年被保送进入华中理工大学(现在的华中科大)。
也正是在大学生涯之中,姚欣打仗到了分布式打算这个观点——他的老师金海教授(华中科技大学教授,中国打算机学会副理事长),正是将这一观点带入中国的第一人。
金海教授早在2002年就开始卖力中国教诲网的网格打算(分布式打算的一种)培植,2007年也是第一批从事虚拟化和云打算研究的科研专家。
一贯到现在参与设计国家提出的“东数西算”和算力网络,是中国分布式打算领域的领军人物。
当时,金海教授就跟姚欣讲了算力大众化的愿景:
当有一天网格(当时的叫法)足够分布的时候,我们每个人用算力就像用电用自来水一样,随时随地接上插头、打开水龙头就可以利用到。
金老师所描述的技能普惠理念深深影响了姚欣,并植入了他的创业初心。
除了金海教授让姚欣打仗到了分布式打算,姚欣的创业的另一大源动力是他对身边事物的不雅观察。
姚欣读大学时正值2002年天下杯,在校园中不雅观看足球比赛就成了一个火热的需求。
其间,姚欣创造了一个不屈常的征象——
像HTTP、FTP这样的传输协议,用的人越多速率也就越慢,但如果用BitTorrent这种P2P的传输办法,用的人越多,速率反而越快。
网格打算须要连接很大的打算节点,但可以整合每个人电脑的上行带宽,构建一个分布式的存储和传输的网络,供应基于P2P技能的网络电视做事。
这一想法匆匆使姚欣创建了PPLive(PPTV的前身),起初PPLive只是一个简陋到没有界面的学生作品,但是很快就得到了过亿的下载量。
PPTV的成功,毫无疑问依赖于技能上风。比较(当时的)优酷、土豆等竞争对手,PPTV的视频处理本钱仅为其1%。
后来,卖掉了取获胜利的PPTV后,姚欣开始重新思考自己的未来目标。
他不再知足于“一人的成功”,而是想将其转变为“众人的成功”,希望通过聚拢更多人的力量来实现改变生活的技能创新。
从视频行业中暂时淡出的姚欣,也始终未曾阔别分布式打算的技能愿景——
在PPTV的成功背后,正是他对资源整合和打算效率提升的深刻理解,而这些理念也是他对分布式打算长久关注的理论根本。
这也直接推动了他后续的技能创业选择,并在分布式推理领域的发展中得到了实践。
在姚欣看来,创业者最主要的,不是随大流,不是去模拟,而是要有足够的差异化和独特竞争力。
以是纵然在本日看来,PPIO选择的分布式赛道,依然犹如PPTV一样,显得十分“另类”而新颖;
自己不建大型数据中央,而是整合利用大量的闲置数据中央,这种商业模式也是独树一帜。
从P2P-Streaming到分布式推理,姚欣的创业路径看似从互联网内容平台转向了技能根本举动步伐,但实际上,这两者实质上是一脉相承的。
姚欣始终在探索如何通过网络的集体力量提升效率、降落本钱,并以分布式技能为根本,办理打算中的瓶颈问题。
如今,他将同样的理念运用于AI推理领域,专注于办理算力供需不平衡的问题。
走到本日,姚欣的志向已经不但是把企业做大做强,而是希望能够首创出具有时期意义、能够被写进打算机教科书的技能。
正是出于这一空想,PPIO聘请了金海教授担当公司技能委员会主席。
金海教授将为公司技能团队供应深入全面的辅导,将分布式云技能边界进一步拓展,推动更多运用的落地,让更多创业者轻装上阵。
One More Thing
在刚刚结束的2024分布式云打算论坛上,PPIO除了推出了AI算力云产品外,还联合PingCAP、Zilliz、AscentStream和CSDN,共同启动了“Pioneers AI初创加速操持”。
面向AI初创企业和开拓者,供应包括分布式算力、分布式关系型数据库、分布式向量数据库、分布式行列步队、开拓者社区等全面的资源和技能做事,助力初创团队在分布式云上实现快速发展,加速其创新成果的落地。
正如姚欣在分布式云打算论坛上说的那样,他的终极目标不仅是推动分布式云成为广泛运用的技能标准,更是通过持续创新,帮助更多企业和开拓者在AI时期中得到成功。
我们站在AI时期的门槛前,正在见证一批又一批满怀梦想的开拓者纷纭呈现。
正如当年那个24 岁的姚欣一样,他们须要的,不仅仅是资金和技能,更须要来自同路人、来自先行者的履历和鼓励,就像当年的金海教授一样。
现在,轮到了我们承担起这样的义务,用分布式的力量,做新一代运用的根本举动步伐,支撑起新时期的开拓者雕琢前行!
“Pioneers AI初创加速操持”入口:https://www.ppio.cn/campaign/ai-pioneers
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一韶光获知前沿科技动态