您正在访问亚汇网香港分站,本站所提供的内容均遵守中华人民共和国香港特别行政区法律法规。

Cloudflare 细化网络爬虫屏蔽管理,将默认禁止 AI 代理与训练爬虫访问广告页面

文 / 小亚 2026-07-02 12:39:03 来源:亚汇网

Cloudflare表示,大多数网站所有者都希望自己的内容既能够被人工智能发现又不会损失来自知识产权的收益。负责任的AI企业会清晰标记其网络爬虫机器人的用途,但仍然存在相当数量的混合型爬虫,同时具备多种功能。Cloudflare的爬虫管理器会为混合型爬虫匹配其所有行为模式,这意味着多任务爬虫只要一种行为被网页所有者禁止就无法在特定网站上爬取。Cloudflare还将为网站所有者提供新版归因业务洞察仪表板,适应搜索优化从SEO到GEO再到AEO(亚汇网注:答案引擎优化)的变迁。Cloudflare还将推出页面变动监控以避免无意义的重复抓取,并提供按使用计价的抓取付费模式。广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,亚汇网所有文章均包含本声明。

相关新闻

加载更多...