Files
agent/docs/05-collection-workflow.md

8.6 KiB

Collection Workflow

这个文档定义我如何帮你持续收集 JD、论文和大公司 Agent 实践资料。

核心原则:先让资料稳定进入知识库,再逐步自动化;不要一开始为了自动化牺牲判断质量。

Collection Modes

1. User-provided Source

你给我链接、截图、岗位描述、论文标题或 PDF,我负责:

  • 判断它应该进入 jobs/papers/industry/ 还是 references/
  • 提取结构化 metadata。
  • 建立 Markdown 笔记。
  • 打标签和关联已有知识。
  • 更新对应的 insight 文件。

适合:

  • 你平时看到的单条 JD。
  • 朋友转来的内推信息。
  • 某篇你觉得重要的论文。
  • 大公司发布的 Agent 技术报告、工程博客、产品文档或代码仓库。
  • 临时想整理的一批资料。

2. Live Web Sweep

你给我一个范围,我联网收集并整理。

例子:

收集最近 6 个月北京大厂 Agent 岗位
找最近三个月 Agent evaluation 相关论文
整理 DeepSeek 和腾讯的大模型应用岗位要求
找 coding agent 方向值得读的 10 篇论文
整理 OpenAI、Anthropic、Google DeepMind 最近的 Agent 技术报告和博客

我会做:

  1. 确认范围:时间、公司、地区、关键词、数量、优先级。
  2. 在线检索:优先官方来源,其次可信平台和社区线索。
  3. 去重:按标题、公司、岗位、URL、日期或论文 DOI/arXiv ID 去重。
  4. 记录来源:每条资料都保留 source_urlcollected_at
  5. 结构化:生成 jobs/items/papers/items/industry/items/ 笔记。
  6. 提炼判断:更新 market-insights.mdpaper-insights.mdindustry-insights.md
  7. 回流知识:标记需要更新的 docs/experiments/projects/

3. Batch Import

你给我一批链接、CSV、Markdown、浏览器书签或网页导出,我批量处理。

适合:

  • 招聘网站搜索结果。
  • arXiv 搜索结果。
  • 公司博客和技术报告链接合集。
  • 论文清单。
  • 朋友发来的岗位合集。

批量导入会先生成候选清单,不急着全部写成完整笔记。优先级高的条目才进入深度整理。

4. Future Automation

当资料量足够大后,再加自动化。

候选能力:

  • 从 Markdown frontmatter 生成 index.json
  • 生成搜索、筛选、时间线和标签页。
  • 定期检查 JD 是否过期。
  • 定期拉取论文搜索结果。
  • 定期检查大公司 Agent 技术博客、报告和代码发布。
  • 把 JD 技能、论文 topic 和行业实践做关联图谱。

JD Collection

Scope

默认范围:

  • time window: 滚动最近 6 个月,优先全量收集范围内岗位
  • location: 北京
  • companies: DeepSeek、腾讯、字节、阿里、百度、美团、快手、京东、小米、智谱、月之暗面
  • keywords: Agent、大模型、LLM、RAG、智能体、模型评估、AI Infra、代码智能、AI 产品

JD 收集的主要目标是观察需求变化,而不是只抓最新岗位。每轮收集都要尽量保留快照,后续用同公司、同岗位、同能力标签的变化来判断趋势。

Source Priority

  1. 公司官方招聘站和官方发布。
  2. 主流招聘平台。
  3. 技术社区、社交平台和内推帖。
  4. 转载和聚合结果。

Output

每轮 JD 收集输出三类东西:

  • raw items: jobs/items/*.md
  • trend update: jobs/market-insights.md
  • taxonomy update: jobs/skill-taxonomy.md
  • change notes: 同类岗位在最近 6 个月内的技能、职责、级别和业务方向变化

JD Extraction Focus

我不会只复制岗位描述,而会重点抽取:

  • 硬性技能要求。
  • 高频加分项。
  • 业务方向。
  • 工程成熟度要求。
  • 对 Agent 能力的隐含定义。
  • 和论文、实验、项目的关联。
  • 我们知识库还缺什么。

Example Prompt

收集最近 6 个月北京 DeepSeek、腾讯、字节的 Agent / LLM 应用岗位,优先官方来源;如果官方不足,再补招聘平台和社区线索,重点分析要求变化。

Paper Collection

Scope

默认主题:

  • Agent architecture
  • Tool use
  • Memory
  • RAG
  • Evaluation
  • Multi-agent
  • Coding agent
  • Human-in-the-loop
  • Computer use

Source Policy

论文来源需要先确认,再进入持续收集。默认我会先提出候选来源清单,由你确认为 approved 后再做系统性 sweep。

Candidate Source Priority

  1. 论文原始页面、arXiv、OpenReview、ACL Anthology。
  2. 会议 proceedings。
  3. 作者或项目官方 GitHub。
  4. Papers with Code 和研究博客。
  5. 二手解读文章。

Output

每轮论文收集输出三类东西:

  • queue entries: papers/reading-queue.md
  • paper notes: papers/items/*.md
  • research update: papers/paper-insights.md

Paper Triage Focus

我会优先判断:

  • 这篇论文是否解决 Agent 核心问题。
  • 有没有明确实验或 benchmark。
  • 有没有可复现代码或数据。
  • 是否和 JD 高频技能呼应。
  • 是否能转成实验。
  • 是否值得沉淀进 docs/

Example Prompt

找最近 6 个月 Agent evaluation 方向最值得读的论文,优先有 benchmark 或代码的,整理成 reading queue。

Industry Collection

Scope

默认收集大公司和重要 AI 团队的 Agent 工作:

  • frontier labs: OpenAI、Anthropic、Google DeepMind、Microsoft、Meta、Amazon、NVIDIA
  • China AI teams: DeepSeek、腾讯、字节 Seed、阿里 Qwen、百度、智谱、月之暗面
  • material types: 技术报告、研究博客、工程博客、产品文档、代码仓库、benchmark、开发者大会材料

Source Priority

  1. 官方技术报告、官方研究页、官方工程博客、官方产品文档。
  2. 官方 GitHub、Hugging Face、模型卡和 benchmark 页面。
  3. 官方演讲、开发者大会、发布会文字稿。
  4. 可信第三方深度分析,只作为线索或补充。

Output

每轮行业资料收集输出三类东西:

  • raw items: industry/items/*.md
  • trend update: industry/industry-insights.md
  • watchlist update: industry/company-watchlist.md

Industry Extraction Focus

我会重点抽取:

  • 公司正在把 Agent 用在哪些产品场景。
  • 公开的架构、工具使用、记忆、评估、安全和部署信号。
  • 是否有技术报告、代码、benchmark 或只是产品宣传。
  • 和论文、JD、实验、项目之间的相互印证。
  • 对我们知识库和项目规划的启发。

Example Prompt

收集最近 6 个月 OpenAI、Anthropic、Google DeepMind、Microsoft 的 Agent 技术报告和工程博客,按证据强度排序。

Cross-linking

JD、论文和行业实践必须互相打通。

一个技能或概念最好能形成这样的链路:

Job requirement -> Paper evidence -> Industry practice -> Experiment validation -> Project practice -> Docs conclusion

例子:

agent-evaluation
  jobs: 哪些公司要求模型评估、Agent benchmark、线上观测
  papers: 哪些论文定义评估方法和 benchmark
  industry: 哪些公司公开了 Agent 评估、观测或安全实践
  experiments: 我们能否复现实验或搭一个 eval harness
  projects: 哪些项目需要这套评估能力
  docs: 稳定结论沉淀到 Evaluation and Observability

Quality Rules

  • 时效信息必须带 collected_at
  • 重要事实必须带来源。
  • 资料摘要和个人判断分开写。
  • 不用一个目录决定归类,使用 metadata 多标签。
  • 不确定的内容标记为 unknownneeds verification
  • 过期 JD 不删除,改状态并保留原因。
  • 论文没有读完时只进入 queue,不伪装成已总结。
  • 行业资料要区分技术证据和产品宣传。

Review Rhythm

建议先用轻量节奏:

Rhythm JD Papers Industry
Weekly 最近 6 个月窗口内新增和变化 新论文线索、阅读队列 大公司新发布和技术报告
Monthly 市场技能趋势和需求变化 主题研究洞察 公司实践趋势
Quarterly 能力缺口和学习路线 成熟结论回流 docs/ 行业实践和项目规划复盘

What I Need From You

默认我可以直接开始收集,但如果你给出这些约束,结果会更准:

  • 优先公司名单。
  • 是否只看北京。
  • 是否看实习、校招、社招。
  • 岗位偏工程、研究、产品还是综合。
  • JD 是否只收北京,或是否包含远程/杭州/深圳等强相关岗位。
  • 论文来源名单是否已经确认。
  • 论文偏最新趋势、经典必读,还是能直接指导项目实现。
  • 行业资料优先看哪些公司和哪些产品方向。
  • 每轮希望收集多少条。