VeloxQuant-MLX

VeloxQuant 让您可以在更少内存中运行更大的本地 AI 模型，完全私密，无需云服务。一个简单的 API 可将内存使用量压缩高达 16 倍，同时在 Apple Silicon 上保持生成速度。