8月9日,AI应用“妙雅相机”已经火爆了好几天。推出不到一个月,对计算能力的需求飙升了数百倍。阿里云上紧急扩容后,用户激增导致的排队情况也有所缓解。大大减少了排队时间,提升了用户体验。目前妙雅相机在苹果App Store也推出了App版本,功能更加强大。

自7月17日正式上线以来,“妙雅相机”以9块的价格和高质量的“拍照”照片获得了众多关注,成千上万的用户涌入应用。高峰时有4000-5000人排队,排片需要10多个小时。据相关负责人介绍,“妙雅相机”已经在阿里云上紧急扩容,以应对暴涨数百倍的计算能力需求。虽然计算能力在增加,另一边的用户也在增加,但是高峰时段的排队现象得到了缓解。
一位资深IT人士表示,“妙雅相机”的照片生成需要巨大的GPU计算能力,至少需要上千台GPU服务器才能满足上述高峰期。线下部署不现实,云部署可以为创业公司节省大量成本和时间,但目前只有少数云计算公司有这样的计算能力储备。
“之前大家比较关注大型模型训练需要的计算能力,尤其是GPT模型训练,动辄需要上万块显卡。”上述资深人士表示,随着Llama2等开源大模型的流行,大模型推理端的计算能力需求更值得关注。当AIGC进入生产力时代,推理的计算能力需求可能远高于训练。

随着各行业AIGC发展的逐步完成,业务发展阶段使用推理能力的需求开始大幅增加,未来几个月推理能力的总需求可能远高于训练能力。
以目前国内计算能力最大的阿里云为例,它提供了一个GPU规模集群最高10万张卡的可扩展性,还可以承载多个万亿参数大模型同时在线训练推理。此外,阿里云还提供AI加速套件AIACC,大大提高了计算效率。Finetune模型的训练效率可以提高60%,推理效率可以提高100%以上。
微信扫码
QQ扫码
您的IP:10.1.228.218,2025-12-20 05:24:14,Processed in 0.40387 second(s).