千岛の摸鱼小栈

1. LLM 是什么#

一句话： 大语言模型是海量文本训练出来的”概率预测器”——看到上文，预测下文。

核心理解：

• 不是”理解”你，是”统计上最可能的回复”
• 擅长什么：理解语义、文本生成、总结、翻译、分类
• 不擅长什么：精确计算、事实记忆（会忘/会错）、长逻辑推理

MianAI 结合点： 面试对话生成、简历分析和改进建议——本质都是 LLM 的”根据输入生成合理输出”

口头解释练习：

“大模型就像一个读了全互联网所有书的学霸，你问它什么它都能接话。但它也有两个问题：第一，它记住的东西不一定对（幻觉）；第二，它每次回答都是’猜’最合理的词，而不是从数据库里查正确答案。“

2. Token / 上下文窗口#

一句话： Token 是模型处理文本的最小单位（≈ 0.75 个中文词/字），上下文窗口是模型”一次能记住的最大 Token 数”。

产品层面的影响：

MianAI 结合点：

• 面试对话的轮数限制（聊太多会遗忘前面的回答）
• 长简历/长论文的分段处理
• Flash/Pro 模型切换控制成本

3. RAG（检索增强生成）#

架构流程：

1
用户提问
2
    ↓
3
向量化（Embedding）
4
    ↓
5
向量库检索（相似度搜索）
6
    ↓
7
召回 Top-K 相关文档片段
8
    ↓
9
拼接 Prompt（指令 + 问题 + 参考材料）
10
    ↓
11
LLM 生成回答

核心优势：

• 答案可溯源（不像纯 LLM 不知道来源）
• 更新知识成本低（换文档就行，无需重新训练模型）
• 降低幻觉风险（LLM 有参考材料不容易瞎编）

RAG vs Fine-tuning：

MianAI 结合点： 文献知识库的证据召回与引用判断（直接支持 / 背景相关 / 无关）

4. Agent / Tool Calling#

一句话： Agent = LLM + 工具 + 循环（思考 → 执行 → 观察结果 → 再思考）。Tool Calling = LLM 输出结构化指令来调用外部工具。

Agent Loop：

1
用户输入
2
    ↓
3
LLM 分析：需要做什么？
4
    ↓
5
如果需要工具 → 输出结构化指令（Function Call）
6
    ↓
7
执行工具（查询数据库 / 调用 API / 执行代码）
8
    ↓
9
把结果返回给 LLM
10
    ↓
11
LLM 综合结果生成回复
12
    ↓
13
直到任务完成或用户结束

Agent 和普通 Chat 的区别：

MianAI 结合点： 面试 Agent 的多轮追问逻辑——AI 面试官根据你的回答决定下一个问题

5. Prompt Engineering#

一句话： 写好的 Prompt 决定了 LLM 输出质量，本质是”给模型写任务说明书”。

Prompt 结构：

1
System Prompt（角色设定）：
2
    你是一个专业的面试官，负责考察候选人的技术能力...
3

4
User Prompt（具体指令）：
5
    请针对候选人的以下回答进行评分...
6
    评分标准：
7
    - 技术深度（1-5分）
8
    - 表达能力（1-5分）

关键技巧：

• 给示例（Few-shot）：先给一个评分示例再让模型评分
• 分步骤指令：先分析再评分最后给建议
• 输出格式约束：JSON / Markdown / 固定结构
• 角色设定：明确告诉模型”你是谁、你要做什么”

MianAI 结合点： 面试官角色 Prompt、简历分析 Prompt、论文润色指令——写 Prompt 就是写产品逻辑

6. 幻觉（Hallucination）#

一句话： LLM 会编造事实——因为它本质是”生成最可能的词”而不是”查找正确答案”。

产品层面缓解策略：

MianAI 结合点： 知识库引用分类——直接支持、背景相关、无关，降低”乱引文献”的风险

7. 成本与延迟的 trade-off#

一句话： 大模型能力越强越贵越慢，产品设计必须在”体验”和”成本”之间找平衡。

产品策略：

MianAI 结合点： Flash/Pro 模型切换、用户额度体系、自定义 API Key——平衡体验和成本

8. 多模态#

核心理解：

• 多模态 = 文本 + 图片 + 音频 + 视频的理解和生成
• 当前水平：理解（看图说话）较好，生成（文字→视频）还在进化
• 产品机会：多模态输入（拍照问问题）和多模态输出（生成配图/配音）

面试常问角度：

• “多模态能做什么、不能做什么？“——理解能力强、生成一致性还不够
• “多模态对你的产品有什么启发？“——面试产品可以用语音；论文产品可以用图表理解

9. Embedding / 向量库#

一句话： Embedding = 把文本转换成向量（一串数字），语义相近的文本向量距离也近。向量库 = 专门存向量并支持快速相似度检索的数据库。

语义搜索 vs 关键词搜索：

MianAI 结合点： 知识库的语义检索——用户搜”面试技巧”，能召回”怎么回答行为面试题”这类语义相关的文档

10. Fine-tuning vs RAG#

选择标准：

• 知识经常变 → RAG
• 需要学习特定风格/格式 → Fine-tuning
• 大多数 AI 应用产品场景 → RAG 优先

11. Streaming（流式输出）#

技术原理： LLM 逐 Token 生成结果 → 后端逐 Token 推送给前端（SSE/WebSocket） → 前端逐 Token 渲染

产品价值：

• 首字延迟 = 用户留存（用户等 1 秒能看到第一个字 vs 等 5 秒看到完整回答）
• 打字机效果给用户”正在工作”的感知
• 用户可以在生成中阅读和判断，不需要等全部完成

技术难点： 中断恢复、错误处理、前端渲染性能（大量 DOM 更新）

MianAI 结合点： 面试对话的流式展示——用户看着 AI 实时生成问题，体验比”等几秒突然出现完整回答”好很多

12. AI 产品指标#

传统 PM 指标：

• 增长：DAU/MAU、获客成本（CAC）
• 留存：次日/7日/30日留存、回访率
• 变现：LTV、转化率、ARPU
• 体验：NPS、完成率、平均使用时长

AI 特有指标：

• 功能性：幻觉率、准确率、召回率
• 体验性：首字延迟（TTFT）、生成速度（Token/s）、任务完成率
• 成本性：每次请求成本、模型调用成功率

核心面试题：

“AI 功能的好坏怎么衡量？” 答：不能只看 DAU。功能性指标（准确率） + 体验指标（延迟） + 业务指标（留存/转化）三方面看。

13. AI 功能 vs AI 产品#

面试常考：

“你的产品该不该用 AI？什么时候该做 AI 功能，什么时候该做 AI 产品？” 答：判断标准——用户的核心需求是什么？AI 是解决这个需求的最好方式吗？

🎬 入门先看（2 小时建立全景认知）#

吴恩达《AI For Everyone》（Coursera 免费 / B 站有搬运）

• 链接：https://www.coursera.org/learn/ai-for-everyone
• 面向非技术人群，不讲代码不讲数学
• 花 4 小时看完前 3 周，你就知道 AI 能做什么不能做什么
• ⭐ 这是 AI PM 入门第一课，没有更好的替代

备用： B 站搜”AI 产品经理入门”——有很多 UP 主讲 AI 产品全景，挑播放量高的看 1-2 个

🎬 Tier 1 核心概念（按顺序看）#

📖 Tier 1 文字资料（不好找视频时看）#

Lilian Weng（OpenAI）的博客（英文，但值得读）

• 《LLM Powered Autonomous Agents》——Agent 综述，必读
• https://lilianweng.github.io/posts/2023-06-23-agent/
• 中英文都有翻译版本，搜标题就能找到

杨巍的博客 / 知乎专栏

• 搜”杨巍 AI 产品经理”——前百度 AI PM，写了很多 AI 产品思考
• 不是技术教程，是产品视角的分析，很适合你

🎬 Tier 2 进阶概念#

📚 Tier 3 锦上添花#

《扩散模型从原理到实战》（B 站有系列教程）

• 想做视频工作台的时候再看

模型评估： B 站搜”MMLU 评测""BLEU 是什么”，10 分钟一个概念

📖 产品思维类（不分 Tier，长期积累）#

《启示录：打造用户喜爱的产品》（Marty Cagan）

• 产品经理必读，没有之一
• 教你做产品的流程和思维方式

《俞军产品方法论》

• 国内产品经理的经典，偏互联网产品思维

人人都是产品经理（woshipm.com）

• 搜”AI 产品”专栏，很多垂直文章

即刻 APP

• 关注 #AI产品 #AI 讨论 等圈子
• 日常刷，培养产品敏感度

学习顺序 + 对应资源汇总#

不看也没关系的#

• 不要看纯技术教程（PyTorch / Transformer 源码 / 数学推导）
• 不要看太老的内容（2024 年之前的部分 LLM 内容已过时）
• 不要试图看完所有——每个概念能讲 2 分钟就够

学习习惯建议#

• 每学完一个概念，在笔记里写一段 200 字总结——用自己的话写，面试直接翻
• 每学完一个概念，想一个 MianAI 怎么用——比如学完 RAG 就想”MianAI 的知识库可以怎么改进”
• 学完 Tier 1 就开始投简历——不需要学完 Tier 2，面试够用了