Reddit开启“付费墙”,屏蔽搜索引擎和AI机器人随意抓取内容
-
付费墙开启:
- Reddit 限制各大搜索引擎和 AI 机器人获取其内容,需付费才能访问。
-
Google独占资源:
- Google 是唯一一个能够通过 “site:reddit.com” 搜索并显示最新结果的主流搜索引擎,因为它与 Reddit 签订了价值6000万美元的协议。
- 其他搜索引擎如 Bing 和 DuckDuckGo 无法访问这些内容。
-
数据变现策略:
- Reddit 加强对自身数据的保护,提升 API 使用费用,旨在通过这些措施开辟新的收入来源,以吸引投资者。
- 更新 robots.txt 文件,明确告知未达成协议的爬虫禁止访问 Reddit 数据。
-
背景与动机:
- Reddit 一直在与多家搜索引擎进行谈判,但很多搜索引擎对使用 Reddit 内容的承诺不够明确,未能达成一致。
- 随着 AI 聊天机器人的泛滥,越来越多的人渴望找到人类创作的内容,Reddit 希望借此机会提高其内容的商业价值。