如何阻止OpenAI ChatGPT GPTBot抓取您的网站内容

how-to-stop-OpenAI-GPTBot-scraping-your-website-data.webp

著名的人工智能实验室OpenAI最近透露了有关其高级网络爬虫GPTBot的更多信息,GPTBot经过专门设计,可以仔细阅读网站并提取重要数据。然后,这些提取的数据在增强未来的AI模型(例如ChatGPT 5和未来的AI模型)中起着关键作用,这些模型严重依赖大量数据来提高性能和功能。

OpenAI解释说,GPTBot抓取的网页“可能被用来改进未来的模型”,并进一步推进新的LLM模型。通过允许 GPTBot 筛选您的网站,您可能会无意中为开发更准确的 AI 模型做出贡献,这些模型具有增强的一般功能和更好的安全措施。

“使用 GPTBot 用户代理抓取的网页可能会用于改进未来的模型,并经过过滤以删除需要付费墙访问权限、已知收集个人身份信息 (PII) 或包含违反我们政策的文本的来源。允许 GPTBot 访问您的网站可以帮助 AI 模型变得更加准确,并提高其一般功能和安全性。下面,我们还分享了如何禁止 GPTBot 访问您的网站。

敏感数据和付费专区网站

OpenAI了解围绕网络数据的敏感性和隐私问题,强调它已经实施了严格的过滤器来防止任何违规行为。受付费墙保护的网站或收集个人身份信息的网站将超出 GPTBot 的范围。此外,任何违反OpenAI政策的内容都将被网络爬虫禁止。

然而,这一有希望的发展确实提出了一个复杂的问题。这种新发现的可能阻止OpenAI训练抓取的可行性,如果得到承认和尊重,似乎已经有点晚了,无法影响ChatGPT或GPT-4等模型的当前训练数据。这些模型已经使用几年前没有任何事先公告的情况下偷偷抓取的数据进行了训练。

例如,OpenAI 整理了截至 2021 年 <> 月的数据,这象征着其语言模型当前的“知识”截止时间。虽然这些早期的模型是在没有考虑网页同意的情况下训练的,但OpenAI与GPTBot的新方法可能表明,未来将转向提高透明度和尊重数据源偏好。通过更体贴和安全的方法,人工智能的未来似乎是确保技术进步和隐私保护之间的平衡。

阻止 OpenAI 抓取您的网站数据

但是,OpenAI了解并非所有网站所有者都希望GPTBot可以访问其内容。因此,他们提供了有关如何禁止 GPTBot 访问您的网站的说明。这可以通过将 GPTBot 令牌添加到您网站的漫游器.txt文件中来实现,其中包含以下行:

User-agent: GPTBot
Disallow: /

对于那些希望自定义 GPTBot 访问权限(仅允许其访问您网站的特定部分)的用户,您可以按如下方式修改您网站的 robots.txt 文件:

User-agent: GPTBot
Allow: /directory-1/
Disallow: /directory-2/

OpenAI的爬虫,包括GPTBot,从这些特定的IP地址块调用网站。这些当前包括可能会在以后更改:

20.15.240.64/28
20.15.240.80/28
20.15.240.96/28
20.15.240.176/28
20.15.241.0/28
20.15.242.128/28
20.15.242.144/28
20.15.242.192/28
40.83.2.64/28

GPTBot 隐私和数据问题

如何在日志和分析中识别 OpenAI GPTBot

GPTBot 可通过其唯一的用户代理令牌和完整的用户代理字符串进行识别。用户代理令牌只是:

User agent token: GPTBot
Full user-agent string: Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; GPTBot/1.0; +https://openai.com/gptbot)

GPTBot 的主要功能是抓取网页,然后可用于完善和改进未来的 AI 模型。请务必注意,GPTBot 在设计时考虑了隐私和安全。它过滤掉需要付费墙访问、收集个人身份信息 (PII) 或包含违反 OpenAI 政策的文本的来源。通过允许 GPTBot 访问您的网站,您正在为 AI 模型的进步做出贡献,提高其准确性、一般功能和安全性。

GPTBot 是人工智能领域的强大工具,旨在改进未来的模型,同时尊重用户隐私和内容限制。无论您选择允许还是禁止其访问您的网站,您现在都拥有做出明智决定的知识。

原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/Yun249513.html

(0)
打赏 微信扫一扫不于多少! 微信扫一扫不于多少! 支付宝扫一扫礼轻情意重 支付宝扫一扫礼轻情意重
上一篇 2023年8月18日 上午12:09
下一篇 2023年8月18日 上午12:12

相关推荐

  • OpenAI o1 是什么?如何运作的

    https://u.jd.com/daBByyr https://u.jd.com/d67YrPi OpenAI o1 可以通过复杂的任务进行推理,并解决比以前的科学、编码和数学模…

    工具软件 2024年9月20日
  • 一亿上下文长度的 LLM:LTM-2-Mini

    一亿上下文长度的 LLM:LTM-2-Mini Magic 发布了一个具有 1 亿 Token 上下文的模型 LTM-2-mini。1 亿 Token相当于大约 1000 万行代码…

    工具软件 2024年9月20日
  • Open AI 新的推理模型已经训练完成

    Open AI 新的推理模型已经训练完成 高质量合成数据的重要性再一次被证明。 Open AI 的逻辑是使用一个足够庞大且非常不经济的推理模型(Strawberry)生产优质合成数…

    工具软件 2024年9月20日
  • xAI 发布 Grok-2 系列模型

    xAI 发布 Grok-2 系列模型 老马的 XAI 发布 Grok-2 Beta 版本。在LMSYS的成绩超过了Claude 3.5 Sonnet 和 GPT-4-Turbo。 …

    2024年8月31日
  • Jamba 1.5系列模型:非 Transformer 模型首次追上先进模型

    Jamba 1.5系列模型:非 Transformer 模型首次追上先进模型 AI21 推出了新的 Jamba 1.5 模型家族,包括 Jamba 1.5 Mini 和 Jamba…

    2024年8月31日
  • Ideogram 发布了 2.0 图像生成模型

    Ideogram 发布了 2.0 图像生成模型 图像生成质量大幅提高,产品易用性改善,最强的文字生成能力。尝试了一下发现真的很离谱,不只是文字生成这么简单,可以实现复杂排版搭配色彩…

    2024年8月31日
  • Google Gemini 登陆 Opera,以下是使用方法

    像Microsoft和谷歌这样的大型科技公司正在全力以赴地整合各自的人工智能模型。根据最近的发展,Opera 的 Aria AI 现在可以访问 Google Cloud 的 Gem…

    谷歌Google 2024年5月30日
  • Google I/O 发布会的内容

    Google I/O 发布会的内容 Google 紧随 Open AI 开了今年的 I/O 发布会,一个字概括就是全。模型层面所有的指标都在卷,同时也发布了所有现在主流的模型类型。…

    2024年5月20日
  • 关于GPT-4o 模型更新

    关于GPT-4o 模型更新 它可以接受任意组合的文本、音频和图像作为输入,并生成任意组合的文本、音频和图像输出。 它可以在 232 毫秒内响应音频输入,平均为 320 毫秒,这与人…

    工具软件 2024年5月20日
  • DeepSeek 发布 DeepSeek-V2 模型

    DeepSeek 发布 DeepSeek-V2 模型 DeepSeeK 上周发布了DeepSeek-V2模型,将现在优秀 LLM 的价格战又抬上了一个新的高度,百万 Token 输…

    2024年5月20日
  • Indigo关于发布会预测的整理

    Indigo关于发布会预测的整理 GPT-4 的新版应该会按照参数规模不同分化成多个版本,这个和 Claude 还有 Gemini 多版本的逻辑一样; 前两周出现在 llmsys …

    工具软件 2024年5月20日
  • Simulon:混合现实 3D 模型软件

    Simulon:混合现实 3D 模型软件 只需要下载app扫描周围环境,然后选择对应的模型。之后等几分钟就会渲染好跟现实环境融合的MR视频。没有官网只有申请测试的表单。 &nbsp…

    工具软件 2024年5月10日
  • Synthesia:EXPRESS-1 模型驱动的数字人

    Synthesia:EXPRESS-1 模型驱动的数字人 EXPRESS-1 模型驱动,以实现逼真的头像表现。通过训练模型理解我们说什么以及我们如何说的微妙关系,表达力化头像现在可…

    工具软件 2024年5月10日
  • 生数科技发布Vidu 视频生成模型

    生数科技发布Vidu 视频生成模型 生数科技不声不响整了个大活。发布 Vidu 视频生成模型,支持长达 16 秒 1080P 视频直接生成。 从演示视频来看一致性、运动幅度都达到了…

    2024年5月10日
  • Adobe 发布 Firefly Image 3 模型及对应新功能

    Adobe 发布 Firefly Image 3 模型及对应新功能 Adobe 发布了Firefly Image 3模型,Photoshop(测试版)也大规模更新了很多功能。包括文…

    2024年5月10日
  • 微软发布 phi-3-mini 微型模型

    微软发布 phi-3-mini 微型模型 微软发布 phi-3-mini 模型,4 位量化之后可以部署在 iPhone 14 上,只占用 1.8G 内存,每秒输出 12 个 Tok…

    2024年5月10日
  • Mixtral8X22B 模型开源

    Mixtral8X22B 模型开源 Mixtral8X22B在只公布了一个磁力链接之后,又正式发布了模型的技术报告: Mixtral 8x22B是一个稀疏混合专家(SMoE)模型,…

    2024年5月10日
  • Meta 正式发布 Llama3 8B 、 70B 模型

    Meta 正式发布 Llama3 8B 、 70B 模型 Meta 在上周终于发布了 Llama3,目前先发布的是 8B 以及 70B 两个模型,还有多模态以及一个 400B 规模…

    工具软件 2024年5月10日
  • AI画图应用Ideogram发布模型更新

    AI画图应用Ideogram发布模型更新 Ideogram 发布了一大波更新,模型能力再次增强,平时做海报和普通图片挺好用的。 主要升级内容有: 增强的文字渲染和照片写实效果:减少…

    2024年5月10日
  • 谷歌发布了一堆AI能力和升级

    谷歌发布了一堆AI能力和升级 Google Next 2024上周放出了不少狠货,这次 Open AI 没能够压下去热度。 首先是 Gemini Pro 1.5 进行了一大波升级,…

    2024年5月10日
  • Cohere推出了大型语言模型Command R+

    Cohere推出了大型语言模型Command R+ 专为企业级工作负载设计,优化了高级检索增强生成(RAG)功能,以减少错误生成,并支持10种关键语言的多语言覆盖。 详细信息: 在…

    2024年5月10日
  • Open AI 发力模型定制

    Open AI 发力模型定制 OpenAI又有动作了,推出了一系列新功能和程序,让开发者在微调和创建定制模型时有更多的控制权和灵活性。 主要功能包括: 在每个训练周期中保存完整的微…

    2024年5月10日
  • LLM训练器 – 自动从提示进入微调模型

    LLM训练器 – 自动从提示进入微调模型 该项目的目标是探索一种实验性的新流程,以训练一个高性能的任务特定模型。试图抽象出所有的复杂性,使得从想法到性能良好的完全训练模…

    2024年5月10日
  • Jan: 本地LLM聊天软件

    Jan: 本地LLM聊天软件 一个全平台的本地 LLM 聊天软件Jan,支持自动下载模型以及非常详细的设置。懒得配置 Ollama 的可以试试。 除了支持本地模型以外,在线的模型可…

    工具软件 2024年5月10日
  • 阶跃星辰的公司加入了大语言模型的战场

    阶跃星辰的公司加入了大语言模型的战场。 发布了一个千亿参数(100B)多模态大语言模型 Step-1, 同时还发布了对应的聊天机器人产品跃问和类似 C AI 的陪伴型应用冒泡鸭。 …

    2024年5月10日