字节跳动近期开源了一项代号为OMGD(Online Multi-Granularity Distillation意为“在线多粒度蒸馏”)的压缩技术。这是字节自研的GAN(生成对抗网络)压缩算法,在保证生成效果不变的前提下,算力消耗最低可以减少到原来的1/46,相比之前业界的最佳压缩效果提升一倍多。

在这里插入图片描述

字节跳动技术团队发表的自研GAN压缩算法论文

GAN 是人工智能领域重要的深度学习模型,在图像生成、音乐生成和视频生成等方面应用广泛。2020 年,麻省理工学院 、Adobe 和上海交通大学的研究者们提出一种 GAN 压缩算法,将算力消耗成功减少到 1/21。根据字节跳动技术团队的论文显示,该算法能灵活地在训练过程中优化并压缩GAN模型,从而实现更好的图像效果和更少的计算成本。

据悉,这项技术的论文已入选国际计算机视觉会议ICCV 2021。GAN是人工智能领域重要的深度学习模型,OMGD压缩算法目前已在抖音等产品中应用。

参考链接:https://tech.ifeng.com/c/892pwBTucW8 OMGD
论文链接:https://arxiv.org/abs/2108.06908
开源项目链接:https://github.com/bytedance/OMGD


本文转载:CSDN博客