Soup CLI

LoRA 保持基准模型冻结：只读，不写。所以 Soup 将其存储在系统 RAM 中，并将其分层流式传输到 GPU 中。峰值 VRAM 变成一层，而不是整个模型。基于 RTX 3050 Laptop 4 GB 测试：Llama-3.1-8B 在 3.32 GB 峰值下训练 119.6 tok/s。一个 YAML 文件，一条命令。支持 SFT、DPO、GRPO、KTO、评估、门控和导出。Apache-2.0。每个数字都已发布，包括我测量并丢弃的那些。