Weixiang Hong

Weixiang Hong

The last expedition.

LLM 学习笔记

5 篇中文笔记 · 每篇约 4–5 分钟

大模型从入坑到弃坑

学到哪里 写到哪里
未完待续 敬请指教

  1. Q、K、V 从何而来从传统机器翻译到 AttentionAttention  ·  5 分钟
  2. GPU 和 HBMprefill、decode 和 batchingGPU · HBM  ·  5 分钟
  3. Cerebras把芯片做到晶圆那么大Wafer-scale  ·  4 分钟
  4. Groqand how it coupled with GPUStatic scheduling  ·  4 分钟
  5. KV CacheContext Engineering & Harness EngineeringKV Cache · Agent  ·  5 分钟