返回   上一版
   
 
 
网站首页 | 数字报首页 | 版面导航 
  往期回顾:    高级检索   出版日期: 2023-09-07
2023-09-07 第04版:四版 【字体】大 |默认 |
并行科技董事长陈健:

打造可用、好用、降本的大模型超算算力

作者: 来源:中华工商时报 字数:555
    “算力网络是解决当前算力问题的最优模式。只要还有可用的超算算力,算力网络就能支撑用户完成计算任务。”北京并行科技股份有限公司董事长陈健近日表示。
    在第十九届CCF全国高性能计算学术年会上,陈健表示:“我们主要通过技术服务、应用服务以及性能优化,帮助客户提升训练效率。”他说,并行科技主要的优势体现在:确保用户有GPU卡可以用;通过技术服务让客户感到好用;通过算力性能优化,降低用户使用GPU卡的成本,并提升效率。
    他进一步阐释道:“我们用户的真实案例:优化前,用户的应用GPU利用率只有75%,显存利用率接近100%,应用每次迭代需要13.97s,我们的技术优化团队帮客户定位到应用的瓶颈在计算负载的分配上。我们通过修改算法和配置参数,优化通信及运行模式,优化后,该应用GPU利用率达到了95%,NVLink和IB通信带宽都得到了充分利用,每次应用迭代时长缩减至10s,应用效率整体提升近40%。”
    至于降本,他指出,目前超算行业用户大约有10%的算力需求是租用,90%是自建,所以各大超算中心利用率未达到“饱和”。对于自建和租用,陈健给出的建议是,最适合的做法是自建波谷以下的部分,租用波谷以上到波峰的部分,这样的投入产出比最高。(林迪)
    (本报记者孙永剑综合报道)
 
地址:北京市东城区北河沿大街95号
邮编:100006 电话:010-56317399
技术支持:北京紫新报通科技发展有限公司
 
技术支持:北京紫新报通科技发展有限公司