并行科技陈健谈算力需求服务:从可用、好用到降成本
“并行始终坚持技术与产品服务并举。”8月24日,并行科技董事长兼总经理陈健“一语双关”道出了并行公司目前的发展现状。
什么样的技术和产品是当前云计算服务市场所急需的?在由中国计算机学会主办的第19届全国高性能计算学术大会(HPC China 2023,以下简称HPC大会)期间,陈健就超级计算网络平台建设情况进行了特邀报告分享。
并行科技董事长陈健(现场图片)
聚焦AI大模型背后的算力需求
今年以来,大模型的火热让并行科技等云计算服务公司看到了其背后的算力服务需求。这对陈健等业内从业者来说,大模型是一次新的生产力崛起,算力需求也将呈现爆发式增长。HPC大会期间,陈健带领并行科技团队围绕超算架构大模型算力、国产工业软件发展、应用SaaS化、制造行业数字化转型等内容,通过特邀报告和展览等形式全面展示在资源、技术、服务等方面的行业方案与观察。
陈健告诉记者,人工智能大模型的火热表现让各行业看到了这项技术的无穷潜力。“训练大模型需要数据、算法和算力的协同配合,但由于国内目前适用于大模型训练与推理的算力资源紧张,影响国内大模型发展。”
“超级计算架构下的大模型算力需求服务,我们认为需要从可用、好用到降成本方面去重点考虑,真正让算力加速人工智能高质量发展。”陈健称,并行科技全面聚焦人工智能大模型背后的算力需求,探索人工智能算力网络建设及行业发展,基于应用运行特征选型与优化等发展热点,给出集资源、技术、服务、运维于一体的综合行业解决方案。
今年上半年,云计算服务采购规模达到35亿元,人工智能大模型在政府采购市场也已崭露头角。在陈健看来,人工智能大模型的训练需要大量的计算资源,在算力投入上不光是“砸钱砸技术”那么简单。“作为典型的超级计算场景,人工智能大模型训练采用超级计算的方式对机构和企业来说更具性价比。所以,我们推崇算力租用方式,这比自建方式能够让机构或企业承担的风险更低、也能确保现金流更充裕。”
“根据我们的观察数据,超级计算领域自建模式超过90%,大模型火热后自建的比例在明显下降,超过一半的都在租用。这也从侧面说明租用算力是更为现实的做法,也是资金利用最优解。”陈健表示,算力作为人工智能大模型训练的基础设施,机构和企业选择自建或租用算力,主要看面向的服务人群是消费端还是企业商用端,亦或是政府服务端。
“从资金利率方面来看,人工智能大模型对算力的利用效率就是资金的利用率。”陈健认为,超级计算领域比拼的就是算力的利用效率。如果机构和企业能够估算甚至确定算力利用率连续5年超过60%,那么自建模式便不存在太大风险,反之则不行。这或许就是陈健口中租用算力比自建更现实的根本原因。
平台技术积累让算力“触手可及”
并行科技的商业模式是用算力网络支撑用户完成计算任务。陈健告诉记者,并行科技作为超级计算的服务商,一直深耕在算力行业,公司目前构建的全国一体化算力网络,将国内优质的超级计算、智能计算与通用算力全部聚合后,形成算力资源、应用资源和数据资源能够共享和交易的算力网络平台。“这个网络平台可以确保算力资源应用尽用,从看不见摸不着到触手可及。”
“以GPU为典型代表的智能算力资源和以人工智能芯片为主的训练推理相关的算力服务需求,正是当下非常热门的聚焦点。我们希望通过算力网络平台的技术积累,真正为科研人员和大模型企业提供可用、好用以及降成本的算力资源。”陈健如是说。
记者了解到,目前市场上主流的算力租用模式包括三种:一是采用公有云的云计算模式;二是采用传统服务器托管的“裸金属模式”,以物理机的形式交付;三是超级计算模式,用海量GPU卡通过业务调度的方式形成一个大的计算池,用户可以随需选择GPU卡,用完再释放GPU卡资源方便他人调用。
“人工智能大模型与生成式人工智能服务的火热,必然伴随着无数服务器中运行的庞大算力。”陈健举例说,大模型好比人工智能抽象化的“身体”,海量的算力则是维持身体机能运转的“血液”。以超级计算中心提供的高性能算力、以CPU芯片为主的通用算力,以及以GPU为典型代表的智能算力都将是数字经济高质量发展环境下的重要战略资产。
“我们要让看不见摸不着的算力像水和电一样触手可及,并行只做算力或者通过算力网络整合算力。这也就是说我们提供超级计算的企业自身并不做大模型,也就是不去跟自己的客户进行竞争。”陈健认为,这样的商业路径是对依靠人工智能大模型训练支撑创业或企业提升竞争力的保护。
“总之,我们通过技术、应用以及性能优化服务,帮助人工智能大模型企业用户提升训练效率。这就需要确保用户有GPU卡可以用,通过技术服务让客户觉得好用。而且,通过算力优化降低用户使用GPU卡成本。”陈健最后说,人工智能大模型爆发式增长,在强劲需求和相关产业政策的双驱动下,或将迎来智能算力基础设施建设的大扩容时代。
商机 · 数据 · 参数 · 产品——IT采购搭起买卖桥梁。
IT采购
本网发布内容已拥有版权或授权。如需转载,须获得书面授权,并注明来源为“政府采购信息网(https://www.caigou2003.com)”及作者姓名,并保持文章的完整性、准确性。否则,将追究侵权法律责任。
版权合作邮箱:liuhui#caigou2003.com(发邮件时#换为@)
正福易考通