量化将模型权重从 32/16 位数字压缩为 8 位 (int8) 或 4 位 (int4)。位数越少，文件越小，推理速度越快，但质量可能越低。
int4 — 最大程度的压缩，文件大小减少约 4 倍。质量损失更明显（约 2~10%，具体取决于模型），但通常可以接受，尤其对于函数调用而言。，详情可参考服务器推荐
最窘迫的时候，团队从波波家搬进了杭州郊区的简陋办公室。好在四个人都没什么物欲，说搬就搬，没有一句怨言。后来在政府政策支持下，竹炭以大学生创业的名义贷款50万，才撑住了公司的运转。，这一点在搜狗输入法2026中也有详细论述
Step 3: Verify none of those keys are public.，推荐阅读下载安装汽水音乐获取更多信息