微软工程师(CS PhD)的个人技术博客,专注 NLP/AI 论文精读与工程实践。211 篇文章,16 分类,64 标签。
作者背景
- Ph.D. in Computer Science and Engineering
- 就职于 Microsoft,北京
- 经验领域:搜索排序、NLP、Chatbot、AI、系统设计
- 公众号:Finisky Garden
内容定位
核心方向:NLP/AI 论文解读 + MongoDB + 软件工程 + 产品设计
博客特点:
- 深度论文精读,覆盖 NeurIPS/ICML/ICLR/ACL 顶会论文
- 聚焦 LLM、Embedding、检索增强、推理能力等前沿方向
- 中文写作,技术深度高,适合 AI 工程师阅读
近期文章示例(2026 年)
| 文章 | 核心论点 |
|---|---|
| RLVR 真的让 LLM 学到新推理能力了吗? | RLVR 只是尖锐化已有分布,蒸馏才能真正扩展能力边界(NeurIPS 2025 Oral) |
| ANCE:全语料 ANN 难负样本训练 dense retriever | in-batch/BM25 负样本梯度近零,ANN 难负样本是收敛关键(ICLR 2021) |
| ICML 2025 杰出论文:超越 NTP 的创造力极限 | NTP 学不到抽象点子,需换训练目标 + 推理时随机性前移 |
| NV-Embed:decoder-only embedding 模型 | latent attention 池化 + 两阶段对比微调,MTEB 72.31(ICLR 2025) |
| 浅层对齐只改了前几个 token | safety alignment 只修改前几 token 分布,解释多种 jailbreak 成因(ICLR 2025 Outstanding) |
| Gated Attention:非线性与 attention sink | sigmoid gate 消除 attention sink,NeurIPS 2025 Best Paper |
| MRL:训练时套娃,推理时按需截维 | Matryoshka 嵌套表示,推理时按算力截取维度 |
关联页面
- 2604.14228_dive-into-claude-code — 同类深度技术解析风格
- agent-continual-learning — 与博客 RLVR/推理能力主题相关