AI 面试日报 · 2026-07-30 封面 速览 题 ① 题 ② 题 ③ 硬核 快问快答 来源
AI INTERVIEW DAILY · 转行进 AI · 2026-07-30

AI 面试日报
今天，离 offer 更近一步

给正在转行进入 AI 行业的你：每天 3 道真实面试题 / 职场经验，拆给你听，告诉你「明天怎么准备」。今日聚焦 AI 应用/Agent 工程师 · AI Infra 推理优化 · AI 解决方案/售前，硬核拆解讲 Transformer 的位置编码与 RoPE。

3今日面试题
3覆盖岗位
39第 39 期
速览

TL;DR · 今日速览

TL;DR = Too Long; Didn't Read（太长不看版）· 读这一屏就够

一句话总览：今天借「大厂 2026 届秋招开抢 AI 人才、岗位却在『去初级化』」这个由头，聊 RAG 客服系统怎么设计、推理服务变慢怎么优化、AI 售前 demo 怎么打动客户，硬核拆解讲清模型到底怎么知道字的顺序。

1
AI 应用/Agent 工程师｜系统设计：45 分钟设计一个能上线的 RAG 智能客服——要的是「架构师视角」，不是调包侠。
2
AI Infra｜推理优化：服务一多就慢，先分清 Prefill 与 Decode，再上连续批处理 + KV Cache + PagedAttention。
3
AI 解决方案/售前｜演示：用客户自己的数据跑最小闭环，还敢主动讲清 AI 边界——先说短板反而赢信任。
🎯 今日面试经验 Top 3第 1 题 / 共 3
AI 应用 / Agent 工程师 #1
「45 分钟，设计一个能上线的企业级 RAG 智能客服系统」—— 应用工程师最高频的系统设计题
面试官可能这样问 · 今日锚点本周大厂 2026 届秋招开抢 AI 人才（阿里 AI 岗占比超 60%、字节 AI 相关岗 2353 个），但岗位在「去初级化」、更看落地——「给你 45 分钟，设计一个支持几万篇文档、答不上来能转人工的知识库智能客服，怎么设计？」
怎么答（照这个框架）
  • 别张口就说「用 LangChain 搭个 RAG」：先分模块——入口层（鉴权/限流）→ 检索层（切块 + 向量化 + 向量库 + 混合检索 + 重排）→ 生成层（Prompt + 拼资料 + 大模型）→ 兜底层（低置信转人工）→ 可观测/评测。RAG = 先查资料再照着答，避免「幻觉」（一本正经地瞎编）。
  • 主动讲清必被追问的取舍：切块太大噪声多、太小丢上下文；为什么要「混合检索 + 重排」（纯向量漏关键词、重排修正排序）；防幻觉靠「只根据检索内容回答 + 附出处」。
  • 上线视角才是「去初级化」考的那层：用 faithfulness/答对率量化评测、高频问答做缓存控成本、答错 case 回流迭代、设置置信度阈值决定何时转人工。
过来人提醒：面试官要「架构师视角」不是「调包侠」——每个模块都能说出「解决什么问题、拿掉会怎样」，比会写代码更重要。自己用 Dify/Coze 搭个能跑的 demo，面试就有细节、有实感。
来源：JavaGuide · AI 应用开发面试指南 · 小林 coding · AI 八股题库 · 证券时报 · 2026 届校招抢 AI 人才
AI Infra / 推理优化 #2
「服务一多就变慢、首字要等好几秒，怎么优化？」—— AI Infra 岗最像真实工作的吞吐/延迟题
面试官可能这样问「你部署的推理服务，QPS（每秒处理请求数）上不去、TTFT（首字延迟）还很高，你从哪几个方向优化？」
怎么答
  • 先分清两个阶段（地基）：Prefill（读完你的整段问题，算力密集 compute-bound）vs Decode（一个字一个字吐，显存带宽密集 memory-bound）。首字慢多卡在 prefill/排队，吞吐低多卡在 decode/显存。
  • 三把主武器：① 连续批处理（Continuous batching）——谁先写完就补新请求进空位，GPU 不空转，吞吐翻几倍；② KV Cache——缓存算过的注意力中间值，不必每步重算，代价是吃显存；③ PagedAttention（vLLM）——像操作系统分页管 KV Cache，减少碎片、塞更多并发。
  • 还能补几刀：量化（降精度换显存/速度，选型见 07-26 期）、投机解码（小模型猜、大模型验）、长 Prompt 做前缀缓存。
过来人提醒：别只背名词——面试官几乎必追「为什么 decode 是 memory-bound？」。答：每步只吐一个 token、算得少，却要把整个模型权重和 KV 从显存搬一遍，「搬的远比算的多」，瓶颈卡在显存带宽。答出这层立刻区别于背题的人。
来源：小林 coding · AI 八股题库 · 卡码笔记 · LLM 面试题（部分为考点提炼）
AI 解决方案 / 售前 #3
「给客户做一场 AI demo，你怎么让他当场愿意签 POC？」—— 最能决定成单的演示题
面试官可能这样问 / 真实场景「客户对 AI 将信将疑，给你 30 分钟做个 demo，你怎么演，才能把项目推进到下一步（签一个小范围试点 POC）？」
怎么答
  • demo 不是炫技，是「用客户自己的数据演他今天就头疼的问题」：提前拿一份客户真实（脱敏）资料，现场让 AI 处理它，而不是放通用演示视频。让他看到「这是在解决我的问题」，不是「这个 AI 好厉害」。
  • 演示走三段：① 先复述痛点（证明你真听懂业务）→ ② 现场跑通一个最小闭环（输入真实 case → 输出可直接用的结果）→ ③ 落到 ROI（省多少人力/时间，数字带口径别拍脑袋）。
  • 主动暴露边界反而更可信：坦白「AI 能做到 X、暂时做不到 Y，我们用 Z（人工复核/规则兜底）补」。客户最怕被忽悠，先讲短板反而赢信任；再顺势给一个小范围、短周期、可量化验收的轻量 POC。
过来人提醒：售前最大的坑是「demo 惊艳、落地全崩」，承诺一定留余地，宁可 demo 朴实、承诺能兑现。能把「技术能做什么」翻译成「客户能得到什么」，是这岗真正的核心竞争力。
来源：考点提炼 · 行业通用高频考点
🧠 今日硬核拆解知识域 · Transformer 架构
知识域：Transformer 架构
注意力「一把抓」不分先后，模型怎么知道字的顺序？RoPE 又强在哪
面试官怎么问「自注意力本身没有顺序概念，那模型怎么区分『我打你』和『你打我』？RoPE（旋转位置编码）到底解决了什么？」
大白话版（零基础也能懂）
注意力看一句话时是「一把抓」地同时看所有字，天生不知道谁在前谁在后——就像把一句话的字全倒进袋子摇匀了。位置编码就是给每个字贴一个「你是第几个字」的标签，让模型重新有了顺序感。早期做法（绝对位置编码）像贴门牌号「1 号、2 号、3 号……」；RoPE 换了思路——不贴「绝对第几号」，而是用「旋转」的方式，让模型直接感受到两个字之间「隔了多远」（相对位置）。
进阶版（面试里能加分）
  • 绝对编码的痛点：训练时最长只见过比如 2048 个位置，上线遇到 4096 就「没见过这么后的门牌号」，外推能力差、效果掉。
  • RoPE 的巧思：把位置信息用「旋转角度」编码进 Q、K，二者做点积算注意力时，结果天然只和它们的相对距离有关——直接建模相对位置，且更易外推（配 NTK/线性插值就能扩上下文窗口）。
  • 为什么主流大模型（LLaMA/Qwen/GLM 等）几乎清一色用 RoPE：词义更依赖「隔多远」而非「绝对排第几」，相对位置更贴合语言规律，对长上下文天然友好。
记忆钩子：「绝对编码记的是门牌号，RoPE 记的是你俩相隔几步——搬到新楼（更长文本）也照样不迷路。」
来源：小林 coding · AI 八股题库（考点提炼 · 行业通用高频考点）
⚡ 八股快问快答5 题
Q什么是 Tokenizer（分词器）？为什么大模型按 token 计费，而不是按字？
ATokenizer 把文本切成模型认识的最小单位「token」（可能是一个词、半个词或一个汉字）。模型只认 token 不认字，计费和上下文长度都按 token 算——一个英文单词常算 1 个 token，一个汉字常算 1～2 个，同样字数中文往往更「费」token。
Q向量数据库（vector DB）是干嘛用的？
A专门存「文本转成的一串数字（向量）」并做相似度检索的数据库，是 RAG 的记忆仓库——你提问时它按「语义相近」而非「字面相同」找资料，所以你问「手机没电」，也能匹配到写「电池续航」的那篇。
Q采样时的 Top-k 和 Top-p（nucleus）有什么区别？
ATop-k 是「只从概率最高的 k 个词里挑」（固定个数）；Top-p 是「从累计概率凑到 p 的那批词里挑」（个数随情况变）。Top-p 更灵活——该确定时候选少、该发散时候选多，所以现在更常用。
QRAG 里常说的「Lost in the Middle」是什么坑？
A指把一堆资料塞进很长的上下文时，模型对「开头和结尾」记得清、对「中间」容易忽略。所以最相关的资料要放开头或结尾、别埋中间，并靠「重排（reranker）」把最关键那条顶上去。
Q为什么 BLEU / ROUGE 这类指标不适合评测大模型的生成质量？
A它俩靠「和标准答案字面重合多少」打分。可大模型能用完全不同的措辞给出同样正确的回答，字面对不上但意思全对——所以现在更多用 LLM-as-a-Judge 或 faithfulness 这类语义/事实层面的评测。

数据源状态

本期素材来源（透明可信）· 第 39 期 · 生成于 2026-07-30

✅ ok WebSearch · 大厂 2026 届秋招 AI 岗报道（证券时报/第一财经/新浪），用作今日锚点
✅ ok 中文题库 · JavaGuide / 小林 coding / 卡码笔记（系统设计·推理部署·Transformer）
⚠️ skip 牛客 / 小红书求职社区一手面经（云端出口反爬受限，未逐条直连）
⚠️ skip BOSS 直聘 / 拉勾 / 猎聘 JD 详情页（多需登录，锚点改用公开秋招报道）
📌 今日与近 7 天的差异点 ① 岗位组合全新：今日 Top 3 = AI 应用/Agent 工程师 + AI Infra + AI 解决方案/售前，覆盖「应用线 + 技术线 + 入门客户侧」三条线，与昨日 07-29（大模型算法 / FDE / AI 训练师）无一重叠；#1 换成 AI 应用工程师（昨日 #1 是大模型算法），近 7 天霸榜的大模型算法 / FDE / AI 训练师今日全部休息。
② 题目角度全新：AI 应用工程师讲「整体 RAG 客服系统设计（架构师视角）」（区别于 07-23 提示注入防御、07-28 记忆系统）；AI Infra 讲「上线服务延迟/吞吐优化」（区别于 07-26 量化选型 GPTQ vs AWQ）；AI 售前讲「打动客户的 demo/POC 演示」（区别于 07-23 成本报价、07-27 数据安全质疑）。
③ 硬核拆解知识域换到「Transformer 架构 · RoPE 位置编码」——近 7 天硬核域为 机器学习基础/RAG/评测/Agent/大模型训练对齐/多模态/深度学习基础，Transformer 架构 7 天内未做过；讲的是「位置编码 + RoPE」，不同于 07-24 Top 卡的「手撕 Self-Attention」。
④ 快问快答 5 题（Tokenizer / 向量数据库 / Top-k vs Top-p / Lost in the Middle / BLEU-ROUGE 局限）全部避开近 7 天高频的 temperature、上下文窗口、Function Calling、LoRA、MoE、量化、幻觉、蒸馏、CoT、ReAct、预训练 vs 微调 等题。
⑤ 今日锚点 = 本周大厂 2026 届秋招开抢 AI 人才（阿里 AI 岗占比超 60%、部分业务达 80%，字节 AI 相关岗 2353 个/招聘超 5000 岗研发 +23%，阿里招超 7000）且岗位「去初级化」、方向垂直细分，绑定 #1。
按 P 切换投影一屏一页模式