YangYang AI

BLOG

写点东西,
顺便把代码讲清楚

自己造的轮子和读代码的笔记:命令行工具、CUDA 算子、大模型推理。 正文同步自 GitHub,改完仓库这里就跟着更新。

gssh

Go

让 ssh 好用起来的命令行工具

三十台机器叫 13、62、杭州备份机,存着容易找起来难。gssh 在 ~/.ssh/config 之上加了备注、标签和可搜索的选择器,拼音首字母 hzbfj 就能找到「杭州备份机」,连接本身仍交给 ssh。

  • 拼音首字母就能搜中文主机名
  • 只负责找,连接仍然交给 ssh 本体
  • 装完自带 Tab 补全
GitHub ↗ ★ 1 更新 2026-09-24

Llm_infer

C++ / Python

从零实现 DeepSeek-V2-Lite 推理

C++ 写算子、Python 整合成推理引擎,用来研究 MLA 和 DeepSeekMoE。每个算子都有纯 PyTorch 参考实现做对拍,整个模型与 transformers 原生实现逐 logits 对齐。

  • 11 个 CUDA 内核,算子级与 PyTorch 对拍
  • 整模型与 transformers 逐 logits 对齐
  • MLA 的 prefill / decode 两条路径分别实现
GitHub ↗ ★ 0 更新 2026-09-26