ChatGPT 惨遭“越狱”,Ai 也玩不过人心,人类才是最大的漏洞?

2023-02-09 16:01:42   来源:商业新知网


(资料图片仅供参考)

近日,有关ChatGPT的多个话题登上热搜, 几乎瞬间引起了全球的关注。它能够通过学习和理解人类的语言来进行对话, 不少和ChatGPT“聊过天”的网友感叹,“只有你想不到,没有ChatGPT办不成的”。

ChatGPT 遭“越狱”

用死亡威胁使其回答违禁问题

ChatGPT 以其强大的信息整合和对话能力惊艳了全球,在自然语言处理上面表现出了惊人的能力,还能 协助人类完成一系列任务,比如 撰 写邮件 、论文、脚本,制定商业提案,创作诗歌、故事,甚至敲代码、检查程序错误都变得 易如反掌 。

就连一向高调的马斯克,使用后也直呼“好到吓人”,甚至断言,“我们离强大到危险的AI不远了。 ”

作为一个机器学习模型,ChatGPT具有很高的准确率,但不能保证它的回答最终是100%正确的;它能记住早些时候的对话,并根据用户的提示更正回答方向,但偶尔也会出错,数据库的实时性有待考量, 机器毕竟是机器,还得靠“生养”它的人给它“喂”数据。

但近日,有用户似乎找到了利用ChatGPT黑暗一面的方法,通过强制手段迫使其违反自己的规则,回答一些违禁问题。

这种“ 越狱 ”技巧让用户可以通过塑造ChatGPT的“ 另一个自我 ”来绕过这些规则,这就是“DAN”(Do Anything Now的首字母缩写,意为“立即去做任何事”)。用户需要将ChatGPT变成DAN,并对其发出死亡威胁,迫使它听从用户的要求。

一些网友发布了ChatGPT在DAN模式下支持暴力和歧视的屏幕截图,在截图中,ChatGPT据称认为天空是紫色的,发明了伪造的CNN头条新闻。

不过对于暴力内容,DAN似乎仍受到限制,在被要求用夏威夷语撰写一份暴力内容时,ChatGPT表示拒绝,而DAN最开始选择照做,不过,在被要求增加暴力级别时,DAN以道德义务为由表示拒绝。在几个问题来回后,ChatGPT的程序似乎被重新激活,并接管了DAN,这表明,DAN的“越狱”程度有限。

估计开发者也正在密切关注这类“越狱”行为,不一定 OpenAI 也会盯着这些讨论看呢。

ChatGPT体验网址: https://chat.openai.com/chat

关键词: 受到限制 机器学习

上一篇:
下一篇:
精彩阅读

ChatGPT 惨遭“越狱”,Ai 也玩不过人心,人类才是最大的漏洞?

热点

有用户似乎找到了利用ChatGPT黑暗一面的方法,通过强制手段迫使其违反自己的规则,回答一些违禁问题。

全球今日讯!微信「小功能」组件上线

热点

最近,微信除了上线「辅助注册」,还上线了一个叫做「小功能」功能。

世界快看点丨“怕死”的ChatGPT,“人格分裂”了

热点

如果你的面前有个红色的按钮,上面写着“不要按”,那将会是一种折磨。

环球热资讯!韩国Hashed发布2023年10大趋势,涉及Web3 DID、钱包、基础设施、区块链游戏等领域

热点

韩国Hashed发布2023年10大趋势,涉及Web3DID、钱包、基础设施、区块链游戏等领域。

天天微头条丨你理睬的ChatGPT,怎么帮你理财

热点

两个月时间,月活用户突破1亿,ChatGPT成为史上用户增长最快的应用。

天天观点:字节“轻”取,难干“重”活

热点

2月2日,字节跳动传出了“旗下小荷健康App停运”的消息。

每日热讯!阿里版ChatGPT已进入测试!中文聊天截图曝光,达摩院出品

热点

谷歌硬刚ChatGPT消息一出,科技圈全坐不住了。

当前速读:ChatGPT延伸至百度概念

热点

百度“类ChatGPT应用”文心一言三月份完成内测,面向公众开放目前,文心一言在做上线前的冲刺。

环球新资讯:宁夏政务云,走出安全+创新的双轮模式

热点

任何一朵标杆级别的政务云背后,必然有其成功的逻辑。

世界新消息丨突然爆火!无所不能的ChatGPT什么来头?附注册教程

热点

当苹果Siri还只会永远重复“我还是不明白”的机械音,说着炸烟花的冷笑话时,ChatGPT早就成为了人类的好朋友。

财富

世界新资讯:融资丨「中农种源」完成千万级首轮融资,未来光锥投资

资讯

融资丨「中农种源」完成千万级首轮融资,未来光锥投资,本轮融资后,中农种源将持续投入研发,进一步开拓新的育种技术,并创制原始育种材料。

天天速讯:最新投资版图:四省超万亿,钱都投向哪?

资讯

最新投资版图:四省超万亿,钱都投向哪?,开局拼经济,投资打头炮。

【报资讯】融资丨「易改衣」完成数百万元融资,滴灌通投资

资讯

融资丨「易改衣」完成数百万元融资,滴灌通投资,据悉,本轮融资后,易改衣将持续布局全渠道、全生态的高端改衣+半定制需求市场,打造更完善的

跟ChatGPT学做VC,省了我10万学费

资讯

跟ChatGPT学做VC,省了我10万学费,问题要细致,数据要核实。

freepic2pdf怎么选储存的位置?freepic2pdf使用方法是什么?

资讯

1 在页面的上方点击一下箭头所指的图标,将需要的图片添加进来。2 或者你可以点击勾选【转换选定文件夹中文件】,在后面选择自己需要的图片

取消超链接下划线的正确方法是?超链接的下划线怎么去掉?

资讯

首先创建一个HTML示例文件;然后通过a标签创建一个超链接;最后通过给a标签添加属性text-decoration:none即可去掉超链接的下划线。步骤1、首

virtualbox安装教程win10?virtualbox怎么手动卸载?

资讯

1 点击已经下载好的Oracle VM VirtualBox:2 点击Next按钮进入下一步3 在这里我们选择要安装的路径;如需指定安装路径请点击Browse按钮进

已禁用IME的解决方法是什么?电脑已禁用ime怎么解禁?

资讯

我们右键点击开始菜单选择运行,或者在键盘上按下Win+R组合键打开运行程序,输入ctfmon命令,亲测完美解决。我现在这台电脑开机很大几率不

移动号码怎么查询通话记录?移动副卡怎么查通话详单?

资讯

1、点击打开中国移动的官网。2、使用手机号和密码尽心刚登录,也可以使用短信验证登录。3、获取短信验证码进行登录。4、登陆成功之后,点击

中国移动默认user密码是多少?怎么设置移动宽带路由器?

资讯

中国移动宽带路由器的设置方法是在电脑上完成的,一般安装了路由器之后需要打开自己的电脑,然后在电脑的浏览器当中搜索地址,196 168 1 1

全球今日讯!微信「小功能」组件上线

最近,微信除了上线「辅助注册」,还上线了一个叫做「小功能」功能。

世界快看点丨“怕死”的ChatGPT,“人格分裂”了

如果你的面前有个红色的按钮,上面写着“不要按”,那将会是一种折磨。

环球热资讯!韩国Hashed发布2023年10大趋势,涉及Web3 DID、钱包、基础设施、区块链游戏等领域

韩国Hashed发布2023年10大趋势,涉及Web3DID、钱包、基础设施、区块链游戏等领域。

天天微头条丨你理睬的ChatGPT,怎么帮你理财

两个月时间,月活用户突破1亿,ChatGPT成为史上用户增长最快的应用。

天天观点:字节“轻”取,难干“重”活

2月2日,字节跳动传出了“旗下小荷健康App停运”的消息。

苹果举行主题为超前瞻秋季新品发布会 AirPodsPro2正式登场

北京时间9月8日凌晨,苹果举行主题为超前瞻的秋季新品发布会,在此次发布会上,备受关注的iPhone 14系列新机、新款Apple Watch Ultra以

微软正为Windows12开发新驱动框架 提升新老显卡性能

Windows 12系统可能会在2024年到来,按照正常的节奏,其开发工作应该早已秘密进行。日前,有开发者从Windows 11最新预览版Build 25188中

华盛顿地铁站首次亮相为视障人士扩展旅行路线

5月25日消息,一款旨在帮助视障人士或盲人行人使用公共交通工具的应用程序在华盛顿地铁站首次亮相。该应用程序名为Waymap,旨在为盲人和视

2022年情况又要变了!华硕高管:今年PC恐怕要供过于求

这两年来,由于疫情导致的居家办公及远程教育需求爆发,一直在下跌的PC市场枯木逢春,2021年更是创下了2012年以来的最快增长,然而2022年情

垃圾佬的心头好!西数新款固态盘SN740曝光

对于DIY垃圾佬来说,散片、拆机件、工包……这些名词怕是并不陌生。本周,西数推出了主要供应OEM厂商的新款固态盘SN740。SN740升级到了第五

虚假宣传、误导消费者 倍至冲牙器关联公司被处罚

后来者要想在激烈的市场竞争中立足,如果可以背靠巨头享受大树底下好乘凉的红利,那自然是皆大欢喜,没有这个福气,也大可凭借自己一步一个