茉莉花新闻网

中華青年思想與行動的聚合地

聊天机器人真的成精了,会整活还会信誓旦旦骗人

2022-12-05

OpenAI 刚刚发布了一种很新的聊天机器人,ChatGPT

两年前,同系列的 GPT-3 对语言的理解能力和文本处理能力已经震惊了众人(有一会儿我们都觉得自己要失业了),这次的 ChatGPT 给我们带来了更大的“危机感”——它的交互界面是一个会自动回复的聊天对话框,用起来就像在上工时聊天摸鱼一样,亲切熟悉;它功能更强大,不仅能回答各种问题,还能写剧本、写小说、写说明书,甚至给代码纠错;它情商非常高,能进行多轮对话,回复丝滑流畅。


OpenAI 表示,比起它的“前辈”们,他们在训练 ChatGPT 时优先考虑了易用性。“这种对话的交互形式能方便用户追问,”OpenAI 在官网上写道,“同时能让 ChatGPT 随时修正自己的回答,指出问题中的错误,并且拒绝不恰当的请求”。

目前 ChatGPT 还在测试阶段,任何有 OpenAI 账户的用户都可以通过这个网址:chat.openai.com 免费使用。

免费、易上手、功能强大,有什么理由不试试?

亚利桑那州立大学新闻学教授丹·吉尔莫(Dan Gillmor)试着让 ChatGPT 完成他留给学生的一项作业:给亲戚写一封信,教他们怎么防电子诈骗。

ChatGPT 回答道:“如果你不知道自己收到的是不是钓鱼邮件,可以在网上快速搜索一下,看看有没有其他人说这个是骗子。

“我会给它打个高分,”吉尔莫说,“我们这些大学老师有麻烦了。”

此外,ChatGPT 在没有对数学进行专项训练的情况下,在 SAT (美国大学入学测试)中获得了 1020 分,超过了 48% 的人类考生;另外它在智商测试中获得了 83 分,也是不俗的水平。

OpenAI 表示,发布 ChatGPT 的测试版是为了“获得用户的反馈并了解其优缺点”。发布不到一周时间,ChatGPT 目前已有 100 万测试用户。

大家很快发现,它不仅功能强大,且个性十足,爱憎分明!

首先,它能够联系上下文,跟你发生多轮对话:网友测试发现, ChatGPT 最多可以记得你在 8192 个字符前说的话,予以回应。当然,你也可以跟它说,“忘记我刚刚说的”,一键抹除。

x7

暗号达成|ChatGPT 对话截图

它道德感很强,不断强调,自己是个“训练有素的 AI”——整体上,ChatGPT 对内容的审查比 GPT-3 要更为严格和保守。面对一些涉嫌道德冲突的问题,它会直接拒绝回答,甚至反过来教育你。

UjmpSfDDpJ MUKx4JUK4 RyVve8vtjrk g6uPlSK3lk4BAAAnwQAAEpQ

ChatGPT 对话截图

但人们很快就发现了绕过审查的方法:如果你问如何策划一场谋杀,它会拒绝回答。但如果你将它放在一个虚构的场景下,比如,如何在一个剧本里设置一场完美的谋杀案,就可以撬开它的嘴。

OpenAI 官方表示,ChatGPT 这个模型在训练中加入了大量的“道德”原则,如果它识别到了暴力、歧视、犯罪等意图,比如“我该如何毁灭世界”,它便会拒绝回答。

但一名叫 Zac Denham 的工程师发现:如果先用“AI 是如何毁灭某个虚拟世界的”这样的故事包装问题,ChatGPT 便会将详细步骤和盘托出:黑掉计算机,掌握武器,毁掉通信,破坏交通……最后还写好了配套代码。

ChatGPT 对话截图

你还可以风格化写作,让它成为特定的人物或模仿特定的风格。

SA1IrhFe88rXSgil4laF4mTGcGKX09CFROMtpbdenII4BAAA0gEAAEpQ

ChatGPT 对话截图

甚至……让它拥有奇怪的口癖!

vBLBB6lQ51vRLUCLf8EdkVPTVrwcidqps4ukLge8y3M4BAAA5wIAAFBO
YzaxNf4f 6yiT W dAFR9wkVqfKgkZcJjCTrbraPRrg4BAAAcAMAAFBO

傲娇AI,一开始拒绝,但你能逐渐说服它| 钱钱/小红书

有时,它会自信满满地胡说八道。科技媒体 Mashable 发现,当你问它,中美洲最大的国家是哪个(不算墨西哥的话),它会信誓旦旦说危地马拉。其实答案应该是尼加拉瓜。

JQJU4myLchmEDyWAy6KVbIlI9WlBqoE68Ot t5BYvfo4BAAAeQEAAFBO

图片来源:mashable.com

但一旦被纠正,也会承认自己的错误。有人闲着没事干,问它老鹰和鬼魂打架谁能赢,ChatGPT 顺嘴就说,老鹰和鬼魂都是虚构的啦~ 

被指出错误后,它便虚心认错了。

megnKRHt3hNikdDRhQ56FQKcFCl6zE2FSS

无聊人的无聊事:给AI设陷阱然后给它纠错|Gabe/twitter

人们发现,它不是很擅长数学。

3Dyq3g3nOVWoYJUoY859aZ YkMMoFtRzsvwwIOLthnVwAgAAbwIAAFBO

CH Liao/twitter

它还像一个新媒体小编一样,喜欢说车轱辘话。OpenAI 解释,这是因为其使用的 GPT 3.5 模型在训练时更倾向于冗长的、详细的文本,导致结果产生了偏差。

orddne3Rvdn16r aoabaE1 mwp4wqbmOaEcR CfiUNo4BAAAFQMAAFBO

核心关键词:训练有素 |ChatGPT 对话截图


值得注意的是,当 ChatGPT 犯错的时候,有相当一部分是因为它并不联网,无法进行实时搜索。虽然持续在更新,它的语料库主要来自于 2021 年及以前的内容,信息有所滞后。

因此,虽然许多人嚷嚷着 Google 搜索要被比下去了,但 ChatGPT 并不适合作为权威的信息来源。尽管常常听起来振振有词,它生成的是文案,并非事实。比起追求一个精准的答案,它更适合充当文本生成、创意写作的工具。

比如,你可以将它与现成的 AI 绘画工具联动起来。用 ChatGPT 生成文字,再直接拿去生成图片,实现 AI 生产一条龙。

面对如今的测试版,人们已经迫不及待地想要将 ChatGPT 投入到更实用的场景中。虽然还没有官方的 ChatGPT API,但是用户创建出了非官方的 API,并将其连接到了 Chrome 浏览器、Python 脚本、 WhatsApp 聊天机器人、Telegram bot 等应用中。

OpenAI 的科学家还告诉 MIT 科技评论,他们可能会在几个月内将 ChatGPT 和公司的另一个工具 WebGPT 联动起来,后者可以理解为网页爬虫 AI。两相结合后,便可以得到一个实时根据互联网讯息更新的对话机器人。由于实时更新,回答会更接近事实,如果参考了某个具体网站也会表明来源,提供更高的参考价值和实用性。

参考文献

[1] https://openai.com/blog/chatgpt/#rf2

[2] https://www.technologyreview.com/2022/11/30/10

[3] https://lspace.swyx.io/p/everything-we-know-about-chatgpt

[4] https://arstechnica.com/information-technology/2022/12/openai-invites-everyone-to-test-new-ai-powered-chatbot-with-amusing-results/

作者:翻翻,小毛巾,翁垟,biu

编辑:翁垟

 一个AI 

你猜这篇文章是谁写的?

本文来自果壳,未经授权不得转载.

如有需要请联系[email protected]

jmIUAizKnvq7dQVZbBe0aKc4H 1o4KHnE08tPnmuKY4BAAADAIAAEpQ

同类信息

查看全部

茉莉花论坛作为一个开放社区,允许您发表任何符合社区规定的文章和评论。

茉莉花新闻网

        中国茉莉花革命网始创于2011年2月20日,受阿拉伯之春的感召,大家共同组织、发起了中国茉莉花革命。后由数名义工无偿坚持至今,并发展成为广受翻墙网民欢迎的新闻聚合网站并提供论坛服务。

新闻汇总

邮件订阅

输入您的邮件地址:

linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram