AI Agent 可读化改造服务:帮网站用 Accept Header 给 AI Agent 喂干净 Markdown,吃 AI 抓取红利

HN 54 赞:acceptmarkdown.com(HN 讨论 49454764)——一个极轻的提议:网站应该通过 HTTP 内容协商(Accept: text/markdown),给 AI Agent 返回去掉了导航、脚本、广告的超链接的干净 Markdown。理由很实在:AI 抓取网页做 RAG / 训练时,<nav>、<script>、<aside> 全是噪音,浪费 token、拖慢延迟、污染检索结果。给 AI 喂「人读的 HTML」是上个时代的做法。

是什么

这是一个「内容协商」的标准提议 + 正在普及的做法:当请求方(AI Agent、LLM 爬虫、RAG 管道)带上 Accept: text/markdown 头时,网站就返回这个页面的纯 Markdown 版本——保留正文语义,去掉所有对 LLM 无用的展示层噪音。

对网站主是开源、免费的接入(一两个中间件规则或插件的事);对 AI 生态是降本增效(省 token、降延迟、提高检索信噪比、让内容更容易被正确引用)。做这件事的「工具/服务」本身就是新兴基建机会。

商业模式

改造服务 + 插件/托管订阅。技术本身免费开源,但大多数站长自己不会改——这就是服务空间:帮存量网站 / 内容站 / WordPress / 电商博客接入「AI 友好内容交付」,并持续维护。核心卖点 = 「让你的内容在 AI 世界里更好被发现、更省钱地被引用」。

变现方法

  • 一次性改造服务费:帮一个站点做好 Accept 内容协商 + Markdown 渲染 + AI 抓取白名单,按站点/页面量报 ¥500-3000
  • 插件/主题订阅(WordPress、Hugo、静态站):一键开启「AI 友好 Markdown 输出」,按站点年费/订阅
  • 托管式 Markdown 转换 API:作为网关给没有能力改源码的站点提供「请求进来 → 抓取渲染 → 输出干净 Markdown」的托管服务,按调用量收费
  • 「AI 友好内容工程」咨询:帮企业内容团队做信息架构、结构化、AI 检索优化(含 robots、sitemap、Markdown 输出)

门槛

低。 技术方案非常通用:nginx / 反向代理里按 Accept 头做内容协商,或对 HTML 做一次 Markdown 渲染(成熟的库一大把)。真正的「门槛」不在技术,而在让你的站点真的被主流 AI 抓取器取到干净内容——这需要内容质量、结构化、robots / sitemap 配合,是一点软性工程与 SEO 意识。

所需技能

  • 后端/中间件:nginx、反向代理、Header 路由与内容协商
  • Markdown 渲染 / HTML 清洗:把页面转成干净正文(或用现成渲染库)
  • 静态站 / CMS / WordPress 改造:能针对常见建站方案做插件或模板
  • 对 LLM 抓取与 RAG 的理解:知道 AI 怎么取网页、怎么把内容喂得更好被检索引用
  • SEO / 内容工程思维:让「AI 友好」成为卖点而非噱头

变现周期

1-3 个月。 改造是接单即收(谈好一个站点就有一笔),快则一周一单;插件可以做订阅,慢一点但可规模化。早期先靠一个个改造单验证付费意愿。

投入成本

低。以时间为主。 前期几乎零资金;托管版需少量云资源与带宽,随调用量增长。

可行性:4/5

实操步骤

  1. 自己站点先接入:加 Accept 内容协商规则,验证「curl 带 Accept 头能拿到干净 Markdown」
  2. 写一份「为什么 AI 时代网站该输出 Markdown」的技术科普贴(HN/掘金/技术社区),顺带引你自己的工具
  3. 做一个小工具/插件:静态站 → WordPress → 通用反代,先做最常被问的那类
  4. 找 2-3 个内容站/博客接单改造,记录「检索率 / 被引用 / token 省了多少」的可量化案例
  5. 定价并做落地页,主打「你的内容在 AI 搜索里更值钱、更省钱地被用」
  6. 视反馈扩展:AI 爬虫白名单维护、e-commerce 商品页结构化、托管 API

风险与坑

  • AI 抓取器还没普遍支持:标准虽好但主流爬虫支持度参差,早期做「改造」可能像「给还没通车的高速铺路」——要判断哪些站值得先做
  • 被当「SEO 灰产」:别做成「诱导 AI 收录赚流量」的擦边,核心价值是「干净的真相内容」,立场要正
  • 站长付费意愿不确定:很多站长不关心「被 AI 引用」,需教育市场;先锁内容商业价值高(教程、文档、数据密集)的站
  • 方案碎片化:有标准但实现各异,做插件要兼容多个建站平台,别过早摊大

证据/验证

  • 提议站点(curl 200):https://acceptmarkdown.com/ ——「Serve Markdown to AI Agents with Accept Headers」
  • HN 讨论(54 赞 19 评):https://news.ycombinator.com/item?id=49454764
  • 同类先行者:Jina Reader / r.jina.ai 这类「任意 URL → 干净 Markdown」的转换服务已在跑,侧面印证「给 AI 喂干净文本」是真实需求

启发

AI 抓取网页方式变了,「内容交付」就成了值得重新做一遍的基建。 过去网站优化给「人的浏览器」看,现在还要给「AI 的读取器」看——这个新增需求里藏着一类低门槛、快变现的服务生意(改造 + 插件 + 托管 API)。关键判断:别指望一次性铺好「AI 高速公路」,而是先锁少数内容价值高的站做成「干净、省钱、好引用」的可量化案例,再谈规模化。对个人来说,这是「内容工程」这个新生赛道的低成本入场券。