今日报丨当意大利“禁用”ChatGPT:OpenAI有20天“整改期” 创始人Sam期待访意

2023-04-03 08:39:58   来源:创业邦

GPDP叫停ChatGPT后,OpenAi在意大利连夜暂停了对该服务的访问。自2020年开始,就一直是GPDP董事会成员的Guido Scorza说,GPDP此次是独立行动。现在OpenAi有20天的时间来遵守规定。

编者按:本文来自微信公众号 经济观察报(ID:eeo-com-cn),作者:欧阳晓红,创业邦经授权转载

1

4月1日是“愚人节”,对ChatGPT意大利用户来说,这个“玩笑”开大了;对OpenAI而言,却有些猝不及防——它有20天的调整适应期。


(资料图片仅供参考)

当地时间3月31日,以“非法收集个人资料;未成年人年龄核实系统缺失”之名,意大利个人数据监管局(Guarantor for the Protection of Personal Data,GPDP)宣布禁用ChatGPT,直到它尊重隐私法规;行政措施立即生效。同时,监管部门立案侦查。

而在30日就发出的行政措施文件中,GPDP称,对ChatGPT进行多次测试,并就用户数据隐患问题先后指出以下几点:

1、ChatGPT并未告知用户任何关于OpenAI通过该服务数据收集的相关信息。

2、缺失对于用户个人数据的处理,以及对其作为ChatGPT算法优化途径的合格评判基准。

3、服务方提供的数据相关信息与部分事实不符。

4、在OpenAI发布的条款中明确该公司产品不为13岁以下用户提供服务,ChatGPT却缺失任何对于用户年龄的验证。

GPDP还称,3月20日发生了有关付费服务订阅者的用户与ChatGPT对话和支付信息的数据泄露。并指出,最重要的是OpenAI缺乏法律依据来证明其收集和大量存储个人数据是合理的,以便“训练”平台操作的基础算法。此外,根据OpenAI条款,服务用户是13岁以上的人,但GPDP强调,没有任何过滤器来验证用户的年龄,使未成年人面临对其发展程度和自我意识绝对不合适的答案。

OpenAI在欧盟未设办事处,但在欧洲经济区任命了一名代表,GPDP要求其必须在20天内反馈为实施GPDP要求而采取的措施,从该文件发布即日起,OpenAI有二十天的时间根据欧盟相关法律对产品作出调整,否则同样根据欧盟法律,其将被处以最高2000万欧元或最高4%的全球年营业额的罚款。

因此,OpenAi需要在规定时间提供有关数据收集的所有文件,包括还必须明确要采用哪些系统来验证访问其服务的用户年龄,悉数满足要求后,才能继续在意大利运营。

就此,OpenAI创始人Sam Altman在社交媒体上回应,当然会服从意大利政府,并已停止在意大利提供ChatGPT(尽管其认为遵守所有的隐私法)。“意大利是我最喜欢的国家之一,期待很快再次访问。”

事实上,GPDP叫停ChatGPT后,OpenAi在意大利连夜暂停了对该服务的访问。4月1日,当一早醒来的意大利用户尝试连接OpenAI时,得到的网页响应是:《网站所有者可能设置了阻止用户访问的限制》。

针对付费订阅用户,OpenAI将向3月份购买ChatGPTPlus订阅的意大利所有用户退款;还暂停了意大利的订阅续订,以便在 ChatGPT 暂停期间不会向用户收费。

“我们致力于保护人们的隐私,并相信我们提供的 ChatGPT 符合GDPR和其他隐私法。我们将与意大利数据保护局合作,以尽快恢复您的访问权限。”OpenAI支持团队在致意大利ChatGPT用户的公开信中表示,“许多人告诉我们,发现 ChatGPT 对日常任务很有帮助,我们期待很快再次提供它。”

2

是这样吗?据英国BBC报道,OpenAI承认对数据的处理缺失存在漏洞,随后又称ChatGPT之所以有收集数据的机制,是为了让其“学习这个世界”,而非“学习用户个人”,并表示“希望早日恢复对意大利的服务”。

问题在于,意大利用户不知道,20天“整改期”之后的结果如何。Sam Altman认为,OpenAi遵守了所有的隐私法;但GPDP有异议,需要OpenAI提供相关证明文件(但它们看起来并不容易),包括对用户年龄的核实系统问题何解?而且,意大利对基于欧盟人权法律下的个人隐私权极其重视,GPDP行政措施中所列的每一项内容均引自相关法律。

“我们需要停止ChatGPT,我们不知道它对我们的数据做了什么。”GPDP董事会成员之一的律师Guido Scorza就此接受媒体采访时表示。

自2020年开始,就一直是GPDP董事会成员的Guido Scorza说,GPDP此次是独立行动。现在OpenAi有20天的时间来遵守规定。

当被问及ChatGPT 收集了哪些数据时,Guido Scorza称,并不清楚。“我们唯一可以说的是(ChatGPT)收集个人数据是为了开发算法。如果不是这种情况,当我们向他询问或多或少有名的人物简介时,ChatGPT无法回答我们的问题。”

提及律师与OpenAI的分歧或异议,Guido Scorza直言,特别是三种不同的违规行为:(a) 收集了数十亿人的个人数据来训练他们的算法,而没有告知他们这种情况,并且可能没有适当的法律依据,(b)在对话期间收集用户的个人数据在不告知他们这些数据的命运的情况下,以及(c)生成内容以回答问题,这些内容有时会归因于人们不准确和不真实的事实和情况,从而提出对他们个人身份的歪曲表述。

Guido Scorza举例称,如果他问聊天机器人Guido Scorza 是什么时候进入数据保护局的,答案为2016年,但事实是2020年。“这(回答)还算不错;但如果他说我在海边撞到一个孩子然后逃跑了,而真相并非如此,那将永远毁了我的生活。而且我认为我们不允许发生这种情况。”Guido Scorza说。

他强调,这次GPDP是独立行动,因为 OpenAi不在欧洲相关隐私保护机构合作程序之内。不过,他认为,接下来的几天里,欧洲层面肯定会有讨论的空间,以了解是否以及如何合作和共同行动。

其画外音或是,GPDP“打响禁用ChatGPT头炮”之后,欧洲相关组织可能也会采取行动。

“AI热潮下,意大利禁用ChatGPT也许不会是个案。”分析人士认为,“而OpenAI自身漏洞也是不可忽视的长期隐患。在完全不知走向的科技革命中,任何一步均可能演变为无法弥补或逆转的历史,无论对错、代价如何;因此,现阶段下的AI向前推进的每一步都需审慎评估。”

就在几天前,包括埃隆·马斯克(Elon Musk) 在内的1000多人联名呼吁暂停高级人工智能的开发,直到独立专家开发、实施和审计这类设计的共享安全协议。

当地时间29日,据路透社报道,马斯克和一群人工智能专家、行业高管在由非营利组织未来生命研究所(FLI)发布的一封公开信中,呼吁暂停开发比GPT-4更强大的系统,暂停6个月,并指出其对社会和人类存在潜在风险。他们在信中写道:只有在我们确信它们的效果是积极的,风险是可控的情况下,才应该开发强大的人工智能系统。

这种担忧其实由来已久。在派拓网络副总裁兼亚太及日本地区首席安全官Sean Duca看来,ChatGPT(AI)是把“双刃剑”。多年来,全世界都在猜测AI可能即将统治世界。如今,用户可以使用AI驱动的安全工具和产品,在几乎无需人为干预的情况下应对大量网络安全事件,但业余黑客也可以利用同样的技术开发智能恶意软件程序并发起隐形攻击。

Sean Duca认为,ChatGPT带来的网络安全隐患不容忽视。比如,此前在拉斯维加斯举行的黑帽和Defcon安全大会上,一个技术团队展示了AI在生成钓鱼邮件和鱼叉式钓鱼信息方面是如何超越人类的。当务之急是采取智能化的行动来化解这些不断发展的威胁。好消息是自主响应如今能够在无需人类干预的情况下有效解决威胁。但随着AI驱动的攻击成为常态,受到自动化恶意软件攻击的企业、政府和个人需要越来越多地依靠AI和机器学习(ML)等新兴技术做出自动化响应。

诚然,随着技术的发展,人们越来越多地意识到数据隐私和保护的重要性。根据Gartner预测,到2024年末,全球75%人口的个人数据将得到现代隐私法规的保护。面对愈发完善的数据法律法规,作为数据管理领域全球领导者的Commvault列出了2023年数据隐私和保护的十大工作重点。

其中,重点一是数据保护策略:在不断变化的数据环境中,企业应该创建整体数据保护策略中的数据隐私、备份和恢复,以及灾难恢复计划,并不断更新。重点二是“加密”,加密对于数据保护和保护隐私数据至关重要。数据加密有助于防止对个人信息的未授权访问。这对于医疗机构、金融机构等需要处理大量隐私数据的企业机构尤为重要。

此外的重点六是数据治理和洞察;调查显示,57%的首席信息安全官承认,他们不清楚他们的一部分数据(或所有数据)位于何处,又是如何被保护的。随着隐私数据量的不断增长,法规的数量也在成倍增加。企业需要了解他们的数据,包括数据的位置以及哪些数据存在风险等等。企业如此,个人数据保护亦然。

“AI和人类之间的微妙平衡将成为实现网络安全的关键因素。”Sean Duca表示。

本文为专栏作者授权创业邦发表,版权归原作者所有。文章系作者个人观点,不代表创业邦立场,转载请联系原作者。如有任何疑问,请联系editor@cyzone.cn。

关键词:

上一篇:
下一篇:
精彩阅读

今日报丨当意大利“禁用”ChatGPT:OpenAI有20天“整改期” 创始人Sam期待访意

资讯

当意大利“禁用”ChatGPT:OpenAI有20天“整改期”创始人Sam期待访意,GPDP叫停ChatGPT后,OpenAi在意大利连夜暂停了对该服务的访问。自2020年

全球热消息:张一鸣秘密会见沃尔玛首席执行官;流媒体巨头Hulu裁员300人,相当于裁撤整个北京工作点丨Going Global

资讯

张一鸣秘密会见沃尔玛首席执行官;流媒体巨头Hulu裁员300人,相当于裁撤整个北京工作点丨GoingGlobal,本周(2023 03 27-04 02)出海大事件

环球最新:首发丨「启钠新能源」完成数千万元天使轮投资,招商局创投投资

资讯

首发丨「启钠新能源」完成数千万元天使轮投资,招商局创投投资,本轮融资主要用于量产产线建设

世界滚动:认知ChatGPT的过程就是消除偏见的过程

资讯

认知ChatGPT的过程就是消除偏见的过程,很多当下的问题,都是技术性问题。

融资丨东南亚电动摩托生态品牌「SWAP」完成千万美元级别Pre-A+轮融资

资讯

融资丨东南亚电动摩托生态品牌「SWAP」完成千万美元级别Pre-A+轮融资,东南亚电动摩托生态品牌SWAP已完成千万美元级别Pre-A+轮融资

每日消息!融资丨「美诺医药」完成超亿元B轮融资,汉康资本领投

资讯

融资丨「美诺医药」完成超亿元B轮融资,汉康资本领投,资金将用于满足美诺医药小分子药物CDMO的业务发展

环球信息:融资丨「读路者」获数百万元种子轮融资,万物为创投投资

资讯

融资丨「读路者」获数百万元种子轮融资,万物为创投投资,资金将用于产品研发、渠道建设、品牌运营

【全球新要闻】欧美体育科技交易市场回暖,我们通过2份研报发现趋势

资讯

欧美体育科技交易市场回暖,我们通过2份研报发现趋势,科技是第一生产力,这个道理在体育产业里也不例外。

80亿人期待抗衰,但投资人还在观望

资讯

80亿人期待抗衰,但投资人还在观望,抗衰老技术的成熟至少需要20年,才能将产品推广到大众,而20年对于VC来说太久了。

电视上lock是什么意思?walleve为什么停运?

资讯

电视上lock是什么意思?第1步:点击取消(部分机型系统显示为确定)直接退出,尝试重新进入;第2步:如重新进入如无效,建议通过大刀刷机工具清

财富

今日报丨当意大利“禁用”ChatGPT:OpenAI有20天“整改期” 创始人Sam期待访意

资讯

当意大利“禁用”ChatGPT:OpenAI有20天“整改期”创始人Sam期待访意,GPDP叫停ChatGPT后,OpenAi在意大利连夜暂停了对该服务的访问。自2020年

全球热消息:张一鸣秘密会见沃尔玛首席执行官;流媒体巨头Hulu裁员300人,相当于裁撤整个北京工作点丨Going Global

资讯

张一鸣秘密会见沃尔玛首席执行官;流媒体巨头Hulu裁员300人,相当于裁撤整个北京工作点丨GoingGlobal,本周(2023 03 27-04 02)出海大事件

环球最新:首发丨「启钠新能源」完成数千万元天使轮投资,招商局创投投资

资讯

首发丨「启钠新能源」完成数千万元天使轮投资,招商局创投投资,本轮融资主要用于量产产线建设

世界滚动:认知ChatGPT的过程就是消除偏见的过程

资讯

认知ChatGPT的过程就是消除偏见的过程,很多当下的问题,都是技术性问题。

融资丨东南亚电动摩托生态品牌「SWAP」完成千万美元级别Pre-A+轮融资

资讯

融资丨东南亚电动摩托生态品牌「SWAP」完成千万美元级别Pre-A+轮融资,东南亚电动摩托生态品牌SWAP已完成千万美元级别Pre-A+轮融资

每日消息!融资丨「美诺医药」完成超亿元B轮融资,汉康资本领投

资讯

融资丨「美诺医药」完成超亿元B轮融资,汉康资本领投,资金将用于满足美诺医药小分子药物CDMO的业务发展

环球信息:融资丨「读路者」获数百万元种子轮融资,万物为创投投资

资讯

融资丨「读路者」获数百万元种子轮融资,万物为创投投资,资金将用于产品研发、渠道建设、品牌运营

【全球新要闻】欧美体育科技交易市场回暖,我们通过2份研报发现趋势

资讯

欧美体育科技交易市场回暖,我们通过2份研报发现趋势,科技是第一生产力,这个道理在体育产业里也不例外。

80亿人期待抗衰,但投资人还在观望

资讯

80亿人期待抗衰,但投资人还在观望,抗衰老技术的成熟至少需要20年,才能将产品推广到大众,而20年对于VC来说太久了。

电视上lock是什么意思?walleve为什么停运?

资讯

电视上lock是什么意思?第1步:点击取消(部分机型系统显示为确定)直接退出,尝试重新进入;第2步:如重新进入如无效,建议通过大刀刷机工具清

当前速读:万亿级生活服务领域拉开帷幕 移卡前瞻布局“数字生活3.0”

随着云计算、AIGC、VR、AR等技术的成熟,人们可以实现在虚拟场景下,用很自然的方式发出数字生活指令。

今日热搜:一款有“魔力”的网盘,到底特殊在哪里?

这些网盘往往都只有基础的上传、下载功能,真正具有特色的功能却很稀缺。

关注:数字人民币系统建设实践与展望

在支持数字人民币推广落地过程中,IT系统建设至关重要。

金融核心系统迁移,腾讯云有何「解题思路」?

金融国产替代浪潮已经到来,带来的不仅是金融业信息系统的一次解耦,也是整个行业利益重新分配的过程。

中消协报告 | 29.5%居民使用移动5G,光纤宽带占比相对较低

近日,中国消费者协会发布”2022年农村消费环境与相关问题调查报告“。

苹果举行主题为超前瞻秋季新品发布会 AirPodsPro2正式登场

北京时间9月8日凌晨,苹果举行主题为超前瞻的秋季新品发布会,在此次发布会上,备受关注的iPhone 14系列新机、新款Apple Watch Ultra以

微软正为Windows12开发新驱动框架 提升新老显卡性能

Windows 12系统可能会在2024年到来,按照正常的节奏,其开发工作应该早已秘密进行。日前,有开发者从Windows 11最新预览版Build 25188中

华盛顿地铁站首次亮相为视障人士扩展旅行路线

5月25日消息,一款旨在帮助视障人士或盲人行人使用公共交通工具的应用程序在华盛顿地铁站首次亮相。该应用程序名为Waymap,旨在为盲人和视

2022年情况又要变了!华硕高管:今年PC恐怕要供过于求

这两年来,由于疫情导致的居家办公及远程教育需求爆发,一直在下跌的PC市场枯木逢春,2021年更是创下了2012年以来的最快增长,然而2022年情

垃圾佬的心头好!西数新款固态盘SN740曝光

对于DIY垃圾佬来说,散片、拆机件、工包……这些名词怕是并不陌生。本周,西数推出了主要供应OEM厂商的新款固态盘SN740。SN740升级到了第五

虚假宣传、误导消费者 倍至冲牙器关联公司被处罚

后来者要想在激烈的市场竞争中立足,如果可以背靠巨头享受大树底下好乘凉的红利,那自然是皆大欢喜,没有这个福气,也大可凭借自己一步一个