MODSetter/SurfSense · 上手攻略
- 仓库:MODSetter/SurfSense
- 链接:https://github.com/MODSetter/SurfSense
- 分类:ai
- 作者:Jay
- 更新:2026-07-14
一、是什么
SurfSense 是开源的竞争情报(Competitive Intelligence)平台,专为 AI Agent 设计,可以理解为「面向 AI Agent 的 NotebookLM + 实时数据抓取」。
它让 AI Agent 能够实时抓取 Reddit、YouTube、Instagram、TikTok、Google Maps、Google Search 等平台的数据,并通过 REST API 或 MCP 服务器的方式暴露给 Claude、Cursor、OpenClaw 等 AI 工具使用。配合内置的知识库、工作流自动化和定时任务,SurfSense 把竞争情报收集这件事从人工操作变成 Agent 自动执行。
二、解决什么问题
当前 AI Agent 在做竞争情报研究时有几个核心痛点:
- 实时数据缺口 —— AI Agent 靠训练数据,无法获取最新的市场动态、用户评论、价格变动
- 平台 API 限制多 —— 官方 API 有速率限制、定价高、覆盖不全(尤其是 Reddit、TikTok 等)
- 缺乏结构化数据 —— 直接爬网页容易碰到反爬、JS 渲染,数据质量差
- 工作流割裂 —— 数据收集→整理→报告需要多个工具串联
SurfSense 的解法是:提供 平台原生连接器(每个平台一个 REST 端点,返回结构化 JSON) + MCP 服务器(让 Agent 把这些连接器当原生工具调用)+ 自动化工作流(定时/事件触发,把数据变成情报报告)。
三、快速安装
自托管(Docker,一行命令)
Linux / macOS:
curl -fsSL https://raw.githubusercontent.com/MODSetter/SurfSense/main/docker/scripts/install.sh | bash
Windows(PowerShell):
irm https://raw.githubusercontent.com/MODSetter/SurfSense/main/docker/scripts/install.ps1 | iex
⚠️ 前提:需要先安装并运行 Docker Desktop。
安装脚本会自动配置 Watchtower,实现每日自动更新。如需跳过,加
--no-watchwatch(原文--no-watchtower,疑为文档笔误,实际请以官方文档为准)。
云端版本(最简方式)
直接访问 surfsense.com,注册后获得 $5 免费额度,无需任何安装。
四、核心用法
4.1 MCP 服务器接入(最推荐)
把 SurfSense MCP 服务器接入 Claude / Cursor / OpenClaw 等 AI 工具:
{
"mcpServers": {
"surfsense": {
"url": "https://mcp.surfsense.com/mcp",
"headers": { "Authorization": "Bearer ${SURFSENSE_API_KEY}" }
}
}
}
配置后,Agent 可以直接调用
surfsense_reddit_scrape、surfsense_google_search、surfsense_youtube_scrape等原生工具,完整工具列表见 SurfSense MCP 服务器文档。
4.2 REST API 直接调用
以 Reddit 为例:
curl -X POST "$SURFSENSE_API_URL/workspaces/$WORKSPACE_ID/scrapers/reddit/scrape" \
-H "Authorization: Bearer $SURFSENSE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"search_queries": ["your brand"],
"community": "webscraping",
"sort": "top",
"time_filter": "week"
}'
Python 调用示例:
import requests
url = f"{SURFSENSE_API_URL}/workspaces/{WORKSPACE_ID}/scrapers/reddit/scrape"
headers = {
"Authorization": f"Bearer {SURFSENSE_API_KEY}",
"Content-Type": "application/json"
}
payload = {
"search_queries": ["your brand"],
"community": "webscraping",
"sort": "top",
"time_filter": "week"
}
response = requests.post(url, headers=headers, json=payload)
data = response.json()
print(data)
4.3 自动化工作流示例
在 SurfSense 平台中用自然语言描述即可创建自动化:
"每周一监控我们前3个竞争对手的定价页面,发现变动时 Slack 告警"
"每日汇总 Reddit 和 YouTube 上关于我们品牌的讨论,发摘要到 Slack"
"每月生成一份竞品分析报告,保存到 Notion"
五、核心连接器一览
| 连接器 | 功能 | API 端点示例 |
|---|---|---|
| 帖子、评论、社区搜索(无官方 API 速率限制) | /scrapers/reddit/scrape |
|
| YouTube | 视频、元数据、字幕、评论抓取 | /scrapers/youtube/scrape |
| 公开帖子/Reels 抓取(无需 Graph API) | /scrapers/instagram/scrape |
|
| TikTok | 视频、评论、话题标签(无需 Research API) | /scrapers/tiktok/scrape |
| Google Maps | 商家信息、评分、评论、位置数据 | /scrapers/google-maps/scrape |
| Google Search | 实时 SERP、排名、AI Overview 追踪 | /scrapers/google-search/scrape |
| Web Crawl | 任意公开网页的结构化内容提取 | /scrapers/web-crawl/crawl |
💡 所有连接器均按实际返回数据量计费,失败请求不计费。自托管版本可关闭计费。
六、典型适用场景
场景 1:竞品动态追踪
让 Agent 每天抓取竞品官网、Product Hunt、Reddit 讨论,汇总成一份「竞品动态简报」。
场景 2:品牌舆情监控
监控 Reddit、YouTube、TikTok 上用户对品牌/产品的讨论,追踪情感趋势,识别危机信号。
场景 3:关键词排名追踪
追踪 Google Search 中核心关键词的排名和 AI Overview 引用情况,发现 SEO 机会。
场景 4:定价情报
提取竞品定价页面,构建价格矩阵表,每日检查变动并告警。
场景 5:本地商家线索
用 Google Maps 按类别+地区批量获取商家信息(电话、网站、评分),用于销售线索。
场景 6:AI Agent 深度研究
给 AI Agent 接入 SurfSense MCP,让它在做竞争分析时能实时抓取真实市场数据,输出有来源保障的研报。
七、坑与注意
- 自托管需要 GPU/CPU 资源 —— Agent 运行和 LLM 推理需要本地 GPU 或云端 API key。
- 数据合规 —— 抓取第三方平台数据请遵守各平台的服务条款,不要用于商业数据贩卖。
- 计费透明 —— 云端按量计费(每个 connector 按返回条目计),自托管无此限制。
- MCP 接入需 API Key —— 需要在 surfsense.com 注册获取 key,或使用自托管版本。
- 部分平台反爬 —— 虽然 SurfSense 尽力绕过反爬机制,但无法保证 100% 成功率,尤其在 TikTok 和 Instagram 上。
- 版本迭代快 —— 该项目活跃,MCP 工具列表和 API 端点可能随版本变化,请以官方文档为准。
八、与同类对比
| 工具 | 定位 | 优势 | 劣势 |
|---|---|---|---|
| SurfSense | AI Agent + 竞争情报 | MCP 原生集成、自托管免费、覆盖平台全 | 生态相对新 |
| Google NotebookLM | 个人研究助手 | 产品成熟、体验好 | 无 MCP、无 Agent 集成、无实时数据 |
| Perplexity | 实时问答 | 实时网络搜索 | 不提供结构化数据 API |
| Firecrawl/Monitor | 网页爬取 | 通用爬虫 | 非竞争情报专用,无多平台连接器 |
| Brandwatch | 企业级舆情监控 | 功能全面、数据权威 | 昂贵、不适合 Agent 集成 |
结论:如果你需要在 AI Agent 工作流中嵌入实时市场数据,SurfSense 是目前开源领域最顺滑的选择。
九、一句话推荐结论
需要让 AI Agent 拥有「实时看市场」的能力?SurfSense 就是你要的桥梁——多平台连接器 + MCP 原生集成 + 自托管免费,闭眼入。
注:API 端点、计费详情、MCP 工具列表请以 surfsense.com 官方文档为准;部分平台抓取能力受平台政策影响,可能随时间变化。