🔬 Quark-v2-0.5M · 玻璃盒前向传播
Llama · 4 层 4 头 · MHA
KV Cache: 0
提示词:
初始化序列
贪婪解码
多项式采样
Temperature
1.0
Top-k
10
◀ 上一步
▶ 下一步
⏩ 生成一步
📚 词表
⟳ 重置
准备就绪
📚 提示词示例(点击载入为提示词;箭头 → 后是该模型的贪心续写结果,已离线验过)
Quark-v2-0.5M 是
465,504 参数
的微型 Llama,在 FineWeb-Edu 的 10BT 采样上训了 1B tokens (单张 Kaggle T4 约 1.4 小时,final loss 2.44)。它不是聊天模型,续写只是「下一个 token 的分布」—— 但正因如此,它的每一个中间张量都能被完整摊开在屏幕上。
🔬 Quark-v2-0.5M
正在加载权重与分词器…