<rss xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title>Decoding - 标签 - lilfry's library</title><link>https://lilfry09.github.io/tags/decoding/</link><description>Decoding - 标签 - lilfry's library</description><generator>Hugo -- gohugo.io</generator><language>zh-CN</language><managingEditor>lilfry@sjtu.edu.cn (lilfry)</managingEditor><webMaster>lilfry@sjtu.edu.cn (lilfry)</webMaster><copyright>All rights reserved.</copyright><lastBuildDate>Fri, 30 Oct 2026 00:21:00 +0800</lastBuildDate><atom:link href="https://lilfry09.github.io/tags/decoding/" rel="self" type="application/rss+xml"/><item><title>为什么大模型会陷入重复：从 High Inflow 到结构性循环</title><link>https://lilfry09.github.io/ai/why-llms-get-stuck-in-repetition/</link><pubDate>Fri, 30 Oct 2026 00:21:00 +0800</pubDate><author>fry</author><guid>https://lilfry09.github.io/ai/why-llms-get-stuck-in-repetition/</guid><description><![CDATA[<p>大模型开始重复时，表面上像是“同一个词说了太多次”。真实故障往往更严重：生成过程失去向前推进的能力，开始不断确认最近出现的高概率模式，直到外部用 <code>max_tokens</code> 强行终止。</p>
<p>开放文本里可能是句段复述，代码里可能是无休止的 <code>if/elif</code>、函数壳和断言，翻译里则可能同时出现语言切换和段落循环。</p>
<p>把这些现象放在一起看，repetition 更像一种生成动力学退化：</p>
<blockquote>
<p>模型滑入了低信息、低变化、但局部概率很高的轨道，而且后续输出不断把它送回同一轨道。</p></blockquote>]]></description></item></channel></rss>