渡己・Mlgdi

llm-reasoning · 第 1/3 节

思维链:把思考过程变成_token

让模型"先想后答",输出质量会显著提升——CoT 的本质是把**内部计算外化为可生成的序列**。

三个关键观察:

1. 推理步骤本身就是上下文:后续每一步都能"看见"前面的推导,相当于工作记忆扩容;
2. 错误会沿链传播,所以步数不是越多越好,中间步骤的可靠性是瓶颈;
3. "让我一步步思考"这类咒语有效的深层原因,是它改变了输出分布的起点。

与 反思机制:让模型自己挑自己的错 组合,构成了当前推理增强的主流范式。