k1体育3915娱乐限制谷歌必应等搜索引擎抓取 保护内容免被AI训练利用

行业资讯 小编 发布时间:2024-08-25 浏览:

  k1体育近日,已开始屏蔽包括谷歌、必应等在内的多数搜索引擎的抓取权限,此举旨在防止这些搜索引擎和其他爬虫未经授权抓取其内容,用于训练人工智能模型。

  根据的robots.txt文件更新显示,目前只有百度搜索、、中国搜索(Chinaso)、YYSpider和宜搜搜索(EasouSpider)等少数搜索引擎被允许抓取其内容。

  谷歌搜索、必应搜索、微软MSN、UC浏览器的Yisouspider以及其他非白名单爬虫均被明确禁止访问的数据。尽管没有在封禁列表中单独列出,但的策略是禁止一切非白名单爬虫抓取,所以和其他搜索引擎也都是被屏蔽的。

  尽管采取了上述措施,但有业内人士指出,这些方法可能只能防止大部分合法的爬虫抓取,无法完全阻止那些通过特殊手段绕过限制的小型爬虫继续获取内容,用于AI训练。

在线咨询

点击这里给我发消息QQ客服

在线咨询

免费通话

24h咨询:020-8888-8888


如您有问题,可以咨询我们的24H咨询电话!

免费通话

微信扫一扫

微信联系
返回顶部