21世纪经济报道记者董静怡上海报道。
8月9日,AI应用“妙雅相机”已经火爆多日。上线不到一个月,计算能力需求暴涨数百倍。但在阿里云上紧急扩容后,用户激增导致的排队情况得到缓解,排队时间大幅减少,用户体验得到提升。
自7月17日正式上线以来,“妙雅相机”以9块的价格和高质量的“拍照”照片获得了众多关注,成千上万的用户涌入应用。高峰时有4000-5000人排队,排片需要10多个小时。
一位资深IT人士表示,“妙雅相机”的照片生成需要巨大的GPU计算能力,至少需要上千台GPU服务器才能满足上述高峰期。线下部署不现实,云部署可以为创业公司节省大量成本和时间,但目前只有少数云计算公司有这样的计算能力储备。
“之前大家比较关注大型模型训练需要的计算能力,尤其是GPT模型训练,动辄需要上万块显卡。”上述资深人士表示,随着Llama2等开源大模型的流行,大模型推理端的计算能力需求更值得关注。当AIGC进入生产力时代,推理的计算能力需求可能远高于训练。
随着各行业AIGC发展的逐步完成,业务发展阶段使用推理能力的需求开始大幅增加,未来几个月推理能力的总需求可能远高于训练能力。
以目前国内计算能力最大的阿里云为例,它提供了一个GPU规模集群最高10万张卡的扩展性,可以同时承载多个万亿参数的大模型进行在线训练和推理。此外,阿里云还提供AI加速套件AIACC,大大提高了计算效率。Finetune模型的训练效率可以提高60%,推理效率可以提高100%以上。
据相关负责人介绍,“妙雅相机”已经在阿里云上紧急扩容,以应对暴涨数百倍的计算能力需求。虽然计算能力在增加,另一边的用户也在增加,但是高峰时段的排队现象得到了缓解。
(作者:董静怡编辑:张伟贤)
南方财经全媒体集团及其客户发布内容的知识产权归其媒体所有。未经书面授权,任何人不得以任何方式使用。请点击此处获取详细信息或授权信息。
微信扫码
QQ扫码
您的IP:10.1.228.218,2025-12-20 03:34:59,Processed in 0.26013 second(s).