微软工程师(CS PhD)的个人技术博客,专注 NLP/AI 论文精读与工程实践。211 篇文章,16 分类,64 标签。

作者背景

  • Ph.D. in Computer Science and Engineering
  • 就职于 Microsoft,北京
  • 经验领域:搜索排序、NLP、Chatbot、AI、系统设计
  • 公众号:Finisky Garden

内容定位

核心方向:NLP/AI 论文解读 + MongoDB + 软件工程 + 产品设计

博客特点:

  • 深度论文精读,覆盖 NeurIPS/ICML/ICLR/ACL 顶会论文
  • 聚焦 LLM、Embedding、检索增强、推理能力等前沿方向
  • 中文写作,技术深度高,适合 AI 工程师阅读

近期文章示例(2026 年)

文章核心论点
RLVR 真的让 LLM 学到新推理能力了吗?RLVR 只是尖锐化已有分布,蒸馏才能真正扩展能力边界(NeurIPS 2025 Oral)
ANCE:全语料 ANN 难负样本训练 dense retrieverin-batch/BM25 负样本梯度近零,ANN 难负样本是收敛关键(ICLR 2021)
ICML 2025 杰出论文:超越 NTP 的创造力极限NTP 学不到抽象点子,需换训练目标 + 推理时随机性前移
NV-Embed:decoder-only embedding 模型latent attention 池化 + 两阶段对比微调,MTEB 72.31(ICLR 2025)
浅层对齐只改了前几个 tokensafety alignment 只修改前几 token 分布,解释多种 jailbreak 成因(ICLR 2025 Outstanding)
Gated Attention:非线性与 attention sinksigmoid gate 消除 attention sink,NeurIPS 2025 Best Paper
MRL:训练时套娃,推理时按需截维Matryoshka 嵌套表示,推理时按算力截取维度

关联页面