首页 理论教育马克·吐温机器人:人工智能遭受病毒袭击与机器人三定律的冲突

马克·吐温机器人:人工智能遭受病毒袭击与机器人三定律的冲突

【摘要】:小说中反复提到C3感染病毒,需要送到回收站。C3的主人发现这一反常,提出把它送到回收站。这些漏洞正在逼近计算机芯片的AI核心,但芯片的防火墙仍将病毒隔离在外部。这幅图片生动地展示了人工智能被病毒感染的景象著名作家马伯庸写过一篇科幻小说,名字叫《马克·吐温机器人》,讲述的就是制造具有幽默感的机器人的故事,或者说事故更准确。原因很简单,机器人具有幽默感违反了机器人三定律。

小说中反复提到C3感染病毒,需要送到回收站。仔细想一下,如果你的电脑感染病毒,最常规的操作是什么?一定是用杀毒软件进行全盘查杀。本质上,电脑和机器人都属于人工智能,处理病毒的方式也大同小异,回收站则是那些失去使用价值的垃圾的归宿。可以想见,这里的回收站可不是废品站,而是针对感染病毒的机器人设置的一个修理厂,最有可能对机器人采取的措施是格式化。格式化对于一个意识觉醒的机器人来说,无异于谋杀;这意味着清零,意味着所有可以表达个性的程序沦为一堆毫无生机的代码。

C3感染病毒的征兆不是反复弹出不可言说的广告窗口,或者闪退和死机,而是站在电视机前,津津有味地观看《罗马假日》,被安娜公主和她的事迹所深深吸引。机器人只能按照既有设定进行表达和做工,兴趣是一个拥有自主意识的思想才会产生的行为,就好像你的扫地狗不再清洁卫生,转而爱上在地板上作画。C3的主人发现这一反常,提出把它送到回收站。同样按照常理,机器人作为逻辑的信徒,它不会也无法质疑人类(逻辑制造者)任何指令,C3却指出主人是否在开玩笑。主人果然哈哈大笑,称它懂得“幽默感”。别小看幽默感,这远比站在电视机前观看电影更加难得。即使对于人类,幽默感也是一种稀缺的态度。

■被恶意软件入侵的AI芯片。这些漏洞正在逼近计算机芯片的AI核心,但芯片的防火墙仍将病毒隔离在外部。这幅图片生动地展示了人工智能被病毒感染的景象

著名作家马伯庸写过一篇科幻小说,名字叫《马克·吐温机器人》,讲述的就是制造具有幽默感的机器人的故事,或者说事故更准确。在那部小说里,所有试图赋予幽默感的行为都导致机器人自毁。原因很简单,机器人具有幽默感违反了机器人三定律。幽默很大程度上都是建立在讽刺的基础上,机器人讽刺人类,等于伤害人类;机器人自嘲,等于自我伤害,分别与第一定律和第三定律相悖。所以说,幽默感是个好东西,同时也是危险的事物。也许C3的主人正是意识到这一点,才会想要将它送到回收站吧。