韩国科学家利用知识蒸馏技术压缩了开源图像生成模型的大小，创建了名为"KOALA"的人工智能工具：
- 可以在两秒内生成图像，其参数规模更小，只有7亿
- 较弱的 GPU 上运行，只需要 8GB RAM
韩国科学家使用了一种名为“知识蒸馏”的特殊技术来压缩名为“Stable Diffusion XL”的开源（或公开可用）图像生成模型的大小，原模型具有 25.6 亿个参数，即人工智能在训练期间用来学习的变量。
而新模型的最小版本被称为“KOALA”，只有 7 亿个参数，这意味着它足够精简，可以快速运行，而不需要昂贵且能源密集型的硬件。
他们使用的方法是知识蒸馏，将知识从大型模型转移到较小的模型，理想情况下不会影响性能。较小模型的好处是执行计算和生成答案所需的时间较少。
该工具可以在低成本图形处理单元 (GPU) 上运行，并且需要大约 8GB RAM 来处理请求，而较大的模型则需要高端工业 GPU。
该团队于 2023 年 12 月 7 日在预印本数据库arXiv上发表了一篇论文，发表了他们的发现。他们还通过开源 AI 存储库Hugging Face提供了他们的工作成果。
详细图例点击标题