互联网用户通常意识到可能的数据泄露的风险,以及我们个人信息的在线使用方式。但 ChatGPT 的诱人能力似乎在我们通常采取预防措施以避免的危险周围创造了一个盲点。OpenAI最近才宣布了一项新的隐私功能,该功能允许ChatGPT用户禁用聊天记录,防止对话被用来改进和完善模型。
“这是朝着正确方向迈出的一步,”Gartner隐私研究副总裁Nader Henein说,他在企业网络安全和数据保护方面拥有二十年的经验。“但隐私和人工智能的根本问题是,在模型建立后,你在追溯治理方面做不了太多事情。
Henein说,把ChatGPT想象成一个和蔼可亲的陌生人,坐在你身后的公共汽车上用照相手机记录你。“他们的声音非常和蔼,他们看起来像好人。然后你会去和那个人进行同样的对话吗?因为事实就是如此。他继续说,“这是善意的,但如果它伤害了你 – 这就像一个反社会者,他们不会三思而后行。(在新选项卡中打开)
从本质上讲,对待 ChatGPT 提示就像对待您在线发布的任何其他内容一样。“最好的假设是,世界上任何人都可以阅读你放在互联网上的任何内容 – 电子邮件,社交媒体,博客,LLM – 永远不会发布任何你不想让别人阅读的内容,”波莫纳学院弗莱彻琼斯经济学教授加里史密斯说,他是《不信任:大数据,数据折磨和对科学的攻击》的作者。.他说,ChatGPT可以用作谷歌搜索或维基百科的替代品,只要它经过事实核查。但不应该依赖它做其他事情。
最重要的是,仍然存在风险,由于ChatGPT的吸引力,风险变得更加不稳定。无论您是在个人生活中使用 ChatGPT 还是为了提高工作效率,都可以将此视为您的友好提醒,让您在与 ChatGPT 共享的内容时三思而后行。
了解使用 ChatGPT 的风险
首先,让我们看看OpenAI告诉用户他们如何使用他们的数据。并非每个人的隐私优先级都相同,但了解下次打开 ChatGPT 时的细则很重要。
1.黑客可能会渗透到超级流行的应用程序中
首先,OpenAI之外的人有可能入侵并窃取您的数据。在使用第三方服务时,总是存在来自错误和黑客的数据暴露的固有风险,ChatGPT 也不例外。2023 年 <> 月,发现一个 ChatGPT 错误暴露了标题、新对话的第一条消息以及来自 ChatGPT Plus 用户的付款信息。
“你推送的所有这些信息都是非常有问题的,因为它很有可能容易受到机器学习攻击。这是第一,“Henein说。“第二,它可能位于日志中的某个地方。是否有人会看它,我不知道,你也不知道。这就是问题所在。
2. 您的对话存储在服务器上的某个位置
虽然不太可能,但某些OpenAI员工可以访问用户内容。在聊天GPT上常见问题页面(在新选项卡中打开)OpenAI表示,用户内容存储在其系统和其他“美国受信任的服务提供商系统”上。因此,虽然OpenAI删除了可识别的个人信息,但在“去识别化”之前,它以原始形式存在于其服务器上。一些授权的OpenAI人员可以访问用户内容有四个明确的原因:其中之一是“微调”他们的模型,除非用户选择退出。
3. 您的对话用于训练模型(除非您选择退出)
我们稍后会选择退出,但除非您这样做,否则您的对话将用于训练 ChatGPT。根据其数据使用政策,该政策分散在其网站上的几篇不同文章中,OpenAI说(在新选项卡中打开),“我们可能会使用您提供给我们的数据来改进我们的模型。上另一页(在新选项卡中打开),OpenAI表示,它可能会“汇总或去识别个人信息,并使用汇总的信息来分析我们服务的有效性。这意味着,从理论上讲,公众可以通过模型“学习”的任何内容来了解商业秘密之类的东西。
以前,用户只能通过常见问题解答页面中链接的 Google 表单选择不与模型共享他们的数据。现在,OpenAI 引入了一种更明确的方法,以 ChatGPT 帐户中的切换设置的形式禁用数据共享。但即使使用这种新的“隐身模式”,对话也会在OpenAI的服务器上存储30天。但是,该公司对如何确保您的数据安全几乎没有什么可说的。
4. 该公司表示,您的数据不会出售给第三方
OpenAI表示,它不会出于营销或广告目的将用户数据共享给第三方,因此您无需担心一件事。但它确实与供应商和服务提供商共享用户数据,以维护和运营网站。
如果您在工作中使用 ChatGPT,会发生什么?
ChatGPT和生成AI工具被吹捧为终极生产力黑客。ChatGPT 可以起草文章、电子邮件、社交媒体帖子和长块文本摘要。“没有一个例子是你能想到的,”Henein说。
但是当三星员工使用ChatGPT检查他们的代码时,他们无意中泄露了商业机密。此后,这家电子公司禁止使用 ChatGPT,并威胁员工如果不遵守新限制,将受到纪律处分。金融机构如摩根大通(在新选项卡中打开),美国银行(在新选项卡中打开)和花旗集团(在新选项卡中打开)由于对第三方消息传递的严格财务规定,还禁止或限制使用 ChatGPT。苹果还禁止员工使用聊天机器人。
将平凡的工作减少到几秒钟的诱惑似乎掩盖了用户基本上在线发布这些信息的事实。“你的想法就像你想到计算器一样,你把它想成Excel,”他说。“你不会认为这些信息会进入云端,它会永远存在于某个地方的日志中,或者存在于模型本身中。
原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/Yun231060.html