量化
Quantization
用更少的数字精度保存模型，以降低内存和计算需求。
把高清原图压成更小文件，尽量保留主要信息。
这个比方用于帮助入门，并不覆盖技术实现的所有细节。
让大模型在消费级设备上运行。
先从实际任务理解概念，比死记英文缩写更有效。
体积变小可能带来能力损失，且不同量化方法效果不同。
如果这个概念会影响费用、数据或安全，请继续查看官方文档。
Quantization
这个比方用于帮助入门，并不覆盖技术实现的所有细节。
先从实际任务理解概念，比死记英文缩写更有效。
如果这个概念会影响费用、数据或安全，请继续查看官方文档。