Lilian Weng (Lil'Log) · RSS 摘要

信源：Lilian Weng (Lil'Log) · https://lilianweng.github.io/index.xml

• Harness Engineering for Self-Improvement — Harness 工程助力自我改进 — 递归自我改进（RSI）的概念可追溯至 I. J. Good（1965），他将"超智能机器"定义为在所有方面都能超越人类……
• Scaling Laws, Carefully — 审慎看待 Scaling Laws — Scaling laws 是 Deep Learning 中最重要的经验性发现之一：训练损失 $L$ 随模型规模扩大呈可预测下降……
• Why We Think — 我们为何思考 — 特别感谢 John Schulman 给予诸多极具建设性的意见与直接修改。测试时计算（Graves et al. 2016, Ling, et al. 2017, Cobbe et al. 2021）……
• Reward Hacking in Reinforcement Learning — 强化学习中的 Reward Hacking — Reward Hacking 指的是 RL Agent 利用奖励函数中的缺陷或歧义获取高奖励，却未真正学习或完成目标任务……
• Extrinsic Hallucinations in LLMs — LLM 中的外在幻觉 — LLM 中的幻觉通常指模型生成不忠实、虚构、前后矛盾或无意义的内容。作为术语，幻觉在某种程度上……