收藏文章 楼主

妙鸭相机算力需求(妙鸭相机:照片生成失败可退款)

版块:科技头条   类型:普通   作者:科技资讯   查看:30   回复:0   获赞:0   时间:2023-08-10 17:41:10

8月9日,AI应用“妙雅相机”已经火爆了好几天。推出不到一个月,对计算能力的需求飙升了数百倍。阿里云上紧急扩容后,用户激增导致的排队情况也有所缓解。大大减少了排队时间,提升了用户体验。目前妙雅相机在苹果App Store也推出了App版本,功能更加强大。

自7月17日正式上线以来,“妙雅相机”以9块的价格和高质量的“拍照”照片获得了众多关注,成千上万的用户涌入应用。高峰时有4000-5000人排队,排片需要10多个小时。据相关负责人介绍,“妙雅相机”已经在阿里云上紧急扩容,以应对暴涨数百倍的计算能力需求。虽然计算能力在增加,另一边的用户也在增加,但是高峰时段的排队现象得到了缓解。

一位资深IT人士表示,“妙雅相机”的照片生成需要巨大的GPU计算能力,至少需要上千台GPU服务器才能满足上述高峰期。线下部署不现实,云部署可以为创业公司节省大量成本和时间,但目前只有少数云计算公司有这样的计算能力储备。

“之前大家比较关注大型模型训练需要的计算能力,尤其是GPT模型训练,动辄需要上万块显卡。”上述资深人士表示,随着Llama2等开源大模型的流行,大模型推理端的计算能力需求更值得关注。当AIGC进入生产力时代,推理的计算能力需求可能远高于训练。

随着各行业AIGC发展的逐步完成,业务发展阶段使用推理能力的需求开始大幅增加,未来几个月推理能力的总需求可能远高于训练能力。

以目前国内计算能力最大的阿里云为例,它提供了一个GPU规模集群最高10万张卡的可扩展性,还可以承载多个万亿参数大模型同时在线训练推理。此外,阿里云还提供AI加速套件AIACC,大大提高了计算效率。Finetune模型的训练效率可以提高60%,推理效率可以提高100%以上。

 
回复列表
默认   热门   正序   倒序

回复:妙鸭相机算力需求(妙鸭相机:照片生成失败可退款)

Powered by 7.12.10

©2015 - 2025 90Link

90link品牌推广 网站地图

您的IP:10.1.228.218,2025-12-20 05:24:14,Processed in 0.40387 second(s).

豫ICP备2023005541号

头像

用户名:

粉丝数:

签名:

资料 关注 好友 消息
免责声明
  • 1、本网站所刊载的文章,不代表本网站赞同其观点和对其真实性负责,仅供参考和借鉴。
  • 2、文章中的图片和文字版权归原作者所有,如有侵权请及时联系我们,我们将尽快处理。
  • 3、文章中提到的任何产品或服务,本网站不对其性能、质量、适用性、可靠性、安全性、法律合规性等方面做出任何保证或承诺,仅供读者参考,使用者自行承担风险。
  • 4、本网站不承担任何因使用本站提供的信息、服务或产品而产生的直接、间接、附带或衍生的损失或责任,使用者应自行承担一切风险。

侵权删除请致信 E-Mail:3454251265@qq.com