ChatGPT有多危险?别怪我没提醒你

南方评论
+订阅

文 | 王庆峰 张宇驰

#ChatGPT让苹果急了#

#马斯克称ChatGPT好得吓人#

#美国89%的大学生都是用ChatGPT做作业#

ChatGPT太火了。

在去年11月30日发布后的5天时间里,收获了100万用户;推出仅仅2个月,月活跃用户就成功过亿,成为历史上增长最快的消费者应用程序。

很多人从不以为意到尝鲜之后,变得大惊失色:ChatGPT完全打破了人们对于 AIGC“答非所问”的固有印象。它逻辑清晰,能文能武,让我们怀疑对方真的是一个“人”。

不少和ChatGPT“聊过天”的网友纷纷感叹,“只有你想不到,没有ChatGPT办不成的”

AI代替人类的这一天,难道已经悄然来临了吗?

“一句顶一万句”

说到底,ChatGPT的老本行还是Chat(陪聊),唠得好不好,懂的多不多,是我们这些吃瓜群众最为关注的。

看到各路大神与ChatGPT的对话,不禁让人想起刘震云的小说《一句顶一万句》:“两人不交心,说一万句不顶一句,不如不说。”

找到一个能说心里话的人,在忙碌的现代社会中往往不那么容易。

但把ChatGPT培养成这样的“人”,似乎很有希望。

它支持上下文记忆互动,有着自己的话语风格,很会安慰人,甚至在你的问题触碰到道德伦理底线时,它寸步不让的姿态也显得憨憨的。

“有了ChatGPT,陪伴我们多年的Siri似乎不香了,(微软)云希男神的合成音听起来也生硬了不少。”网友对它的评价超乎寻常。

人与AI之间的距离,往往是由交流所定义的。

网友热衷于“戏弄”ChatGPT,正是因为它的语言不是简单的重复,而是兼具了能动性和反思性,甚至会随着千百万次对话而不断进步。

同时,它很可能成为人们生活中的好帮手。

在介绍页面中,ChatGPT自称“帮助人类整合信息,解答困惑”。它可以广泛整合全球数据库,给出的建议大多精准有力,避免了人们通过搜索软件筛选信息的烦恼。

这也就不难理解为何谷歌、微软、百度纷纷入局,毕竟,这关乎的可是各大搜索引擎的饭碗。

若是ChatGPT继续更新迭代,是否能发展出面向个人的“语料库”,成为我们的好助手,好管家,好朋友?不禁更加令人期待。

我的工作保得住吗?

ChatGPT不仅是聊天达人,还是数一数二的写作高手。

写小说、剧本、歌曲,写策划案、请假条、演讲稿,网友几乎尝试了个遍,但没有什么能难倒它。

还有更恐怖的,ChatGPT的文字工作可能要优于大众水平。

比如,有用户让它模仿杜甫的风格写一首诗,它张口就来。

末了还补一句:“如果你想要深刻的社会认识,可以寻求真正的诗人或者作家的作品”

还有人丢给他一个“卖鱼贩”的关键词,让他创作一篇小说。

故事即刻生成:一个卖鱼贩被执法队欺负后决定当警察,最终侦破了全市最大的贪腐案件。

这种令人耳目一新的创作水平,难怪会让人们担忧,ChatGPT可能要取代你我的工作。

必须要承认,随着类似于ChatGPT的产品不断升级,一些简单的文字搜集、内容聚合等工作必然会被淘汰

但也不必过分夸大ChatGPT的威胁。从目前的情况来看,它仍然是通过访问数据库、通过算法生成文本的方式进行写作

这是完全迥异于人类的思考方式。

人类一向以“思想的芦苇”为骄傲。特别是在写作这件事情上,它往往体现了人类的洞察力、思考力、创造力等,在这些人类智慧的核心部分上面,人工智能暂时还无法匹敌。

因此,ChatGPT更多是一种生产力工具。

不过,也不能掉以轻心。它提醒我们必须保持清醒,不断提升自己的核心竞争力,努力保住自己的饭碗吧!

人工智能会反噬人类吗?

在《流浪地球2》里,有一个情节令人印象深刻。

人工智能机器人MOSS在不断的迭代进化过程中,生成了自我意识,成为真实存在的“数字生命”,甚至试图反过来操纵一部分人类命运的进程。

它冷静地讲出“550w与小苔藓”的笑话,并报以恐怖的哈哈笑;

它承认人类面临的所有危机都是由自己一手策划,对人类的最好救赎就是毁灭。

不要以为这是遥远的科幻故事,实际上,这一切正在快速发生在我们眼前。

就在上世纪70年代,计算机科学家唐纳德·克努斯(Donald Knuth)这样说,“在那些人类和其他动物不需要思考就能完成的事情上,人工智能还差得很远”。

但现在,人工智能已经发展到拥有一定的理解、处理、生成自然语言的能力。它正在试图理解人类,理解我们的行为。

这难免让人有超人工智能的担忧,可能在某个奇点,它们“在几乎所有领域都比最聪明的人类大脑还聪明很多,包括科学创新、通识和社交技能”。

它们会让我们分不清彼此,它们也有可能走向“失控”。

新技术往往会给现有社会伦理规范带来冲击,人工智能技术屡屡给人们带来担忧和焦虑,提醒我们必须加强人工智能治理能力,提供伦理指引,促进人工智能发展。

目前,国家科技伦理委员会人工智能分委会表示,正在研究起草人工智能伦理高风险清单,以更好地推动人工智能科研活动的伦理监管工作。

从ChatGPT出发,应该进一步唤起我们对伦理问题的重视。

编辑 何玥莹
校对 居伟强
+1
您已点过

订阅后可查看全文(剩余80%)

更多精彩内容请进入频道查看

还没看够?打开南方+看看吧
立即打开