<rss xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title>Verifier - 标签 - lilfry's library</title><link>https://lilfry09.github.io/tags/verifier/</link><description>Verifier - 标签 - lilfry's library</description><generator>Hugo -- gohugo.io</generator><language>zh-CN</language><managingEditor>lilfry@sjtu.edu.cn (lilfry)</managingEditor><webMaster>lilfry@sjtu.edu.cn (lilfry)</webMaster><copyright>All rights reserved.</copyright><lastBuildDate>Sun, 09 Aug 2026 21:30:00 +0800</lastBuildDate><atom:link href="https://lilfry09.github.io/tags/verifier/" rel="self" type="application/rss+xml"/><item><title>蒸馏不只是压缩：从 Self-Distillation 到 Search Distillation 的研究地图</title><link>https://lilfry09.github.io/ai/distillation-beyond-compression-research-map/</link><pubDate>Sun, 09 Aug 2026 21:30:00 +0800</pubDate><author>fry</author><guid>https://lilfry09.github.io/ai/distillation-beyond-compression-research-map/</guid><description><![CDATA[<p>最近我在整理蒸馏方向时，最大的感觉是：这个词被说窄了。</p>
<p>很多人一提 <code>distillation</code>，脑子里先出现的是模型压缩、logit 对齐、teacher/student 这一套老图景。但一旦把它放回后训练和推理系统里看，蒸馏真正传递的常常不是“答案”，而是搜索方式、更新方式、判断方式，甚至是数据该怎么长出来。</p>
<p>如果把它重新定义成“一个学习过程，把可迁移的信息结构交给另一个学习过程”，那它就不再只是压缩术，而是一张更大的信息迁移图。</p>]]></description></item></channel></rss>