🔬 Quark-v2-0.5M · 玻璃盒前向传播

Llama · 4 层 4 头 · MHA KV Cache: 0
提示词:
Temperature 1.0
Top-k 10
准备就绪
📚 提示词示例(点击载入为提示词;箭头 → 后是该模型的贪心续写结果,已离线验过)
Quark-v2-0.5M 是 465,504 参数的微型 Llama,在 FineWeb-Edu 的 10BT 采样上训了 1B tokens (单张 Kaggle T4 约 1.4 小时,final loss 2.44)。它不是聊天模型,续写只是「下一个 token 的分布」—— 但正因如此,它的每一个中间张量都能被完整摊开在屏幕上。

🔬 Quark-v2-0.5M

正在加载权重与分词器…