Notes
笔记
人工智能课程与 Agent 工程的学习记录,涵盖模型训练、推理、工具调用与上下文管理。
全部笔记 (23 篇)
李宏毅 AI 课程:生成式人工智能与基础模型总览
从自回归生成、Transformer 和 Mamba 到预训练、对齐、推理与 AI Agent 的课程总览。
#生成式人工智能#基础模型#transformer#ai agent李宏毅 AI 课程:预训练与能力来源
整理预训练、指令微调、数据质量、合成数据和基础模型能力来源。
#预训练#指令微调#数据工程#基础模型李宏毅 AI 课程:后训练与持续学习
整理监督微调、强化学习、灾难性遗忘、回放和安全能力保持方法。
#后训练#持续学习#灾难性遗忘#对齐李宏毅 AI 课程:深度推理与搜索
整理思维链、自洽性、验证器、树搜索、过程奖励和 DeepSeek-R1 推理训练。
#深度推理#思维链#搜索#强化学习李宏毅 AI 课程:高效推理与长度控制
整理过度思考、Chain of Draft、隐式思维链、最短正确轨迹和动态推理预算。
#高效推理#测试时计算#思维链#推理成本李宏毅 AI 课程:推理评估与指标偏差
整理基准污染、模板记忆、ARC-AGI、Chatbot Arena、成本评估和 Goodhart 定律。
#推理评估#基准污染#arc-agi#chatbot arena李宏毅 AI Agent:目标、行动、观察与规划
整理 AI Agent 的循环、应用、记忆、工具调用、自动构建工具和规划研究。
#ai agent#agent 记忆#工具调用#规划李宏毅 AI 课程:模型内部与可解释性
整理神经元、表示方向、稀疏自编码器、激活补丁、电路和 Patchscope。
#可解释性#稀疏自编码器#模型电路#激活操控李宏毅 AI 课程:模型编辑
整理 IKE、ROME、MEND 等模型编辑方法,以及可靠性、泛化性和局部性评估。
#模型编辑#rome#mend#知识更新李宏毅 AI 课程:模型合并与任务向量
整理任务向量、Task Arithmetic、TIES、DARE 和模型能力合并中的参数干扰。
#模型合并#任务向量#ties#dare