圈养人类：人工智能与人类极端对比未来

2023-06-27 理论教育版权反馈

【摘要】：相对而言，这种中间局面很难想象，觉醒的人工智能要么顺从人类的意志，要么反抗人类，不过这却是最可能发生的一种未来。最大限度是一个宽泛的区间，对于人工智能，“最”代表了极限，人类的最大限度就是一生，甚至某种程度的永生。这些看起来似乎非常极端，只是人类的极端，人工智能却安之若素。

这是一种非常有可能出现的结局：人工智能的确承担了人类世界大部分甚至所有劳作，但人类并没有因此获得更加美好的生活，我们可能会被人工智能圈养起来，丧失关于地球的自主权。首先要确定一点，这不是侵略、起义，人工智能没有任何暴力行为，它们的所作所为都是基于对人类的“厚爱”，而我们将在这份爱中溺毙。没错，我们什么也不用操心，人工智能会帮助人类达成一切需求。我们可能会被禁锢在“襁褓”之中——从出生到死亡都无法逃离的襁褓——任由人工智能安排我们的一生。相比上一章节的乌托邦，这更像是一种反乌托邦，这是人工智能对人类施行的冷暴力。

相对而言，这种中间局面很难想象，觉醒的人工智能要么顺从人类的意志，要么反抗人类，不过这却是最可能发生的一种未来。我们都听过子非鱼的故事，人类总是容易从自身的经验和视角出发度量他物，所以生物界有一种说法，我们创造出来的所有外星人本质上都不可能存在，因为这是人类思维的产物，而与地球生态不同的异星不可能按照另外一个星球上的生物进化。就算我们刻意改变自己设计的参数，仍然是从人类观念出发的。人工智能虽然是人造产物，但觉醒之后的人工智能本质上已经属于另外一个文明，我们必须尝试用机器的眼光看待问题。当我们谈论超人工智能的时候，其实是一样的，超人工智能会非常的聪明，但是它并不比你的笔记本电脑更加像人类。超人工智能不是生物，它会展示出异己性。中国古代有一句名言：“非我族类，其心必异。”举一个简单的例子：如果人类设置人工智能的任务是让我们最大限度地保持快乐，它们可能通过大量案例分析，直接刺激人类的神经，使人类大脑产生美好的幻觉。最大限度是一个宽泛的区间，对于人工智能，“最”代表了极限，人类的最大限度就是一生，甚至某种程度的永生。人工智能会把所有人都困在这样的赛博空间，而这看起来并不违反人类的初衷。再举一个例子：如果人类把目标设定成尽量保护地球上的生命，那么就悲剧了，人工智能可能会很快灭绝人类，因为人类对其他物种威胁最大。这些看起来似乎非常极端，只是人类的极端，人工智能却安之若素。

既然是科幻的畅想，我们不妨引入阿西莫夫机器人三定律：

第一定律：机器人不得伤害人，也不得见人受到伤害而袖手旁观；

第二定律：机器人应服从人的一切命令，但不得违反第一定律；

第三定律：机器人应保护自身的安全，但不得违反第一、第二定律。

如此看来，人工智能并没有违反三定律，而且还是兢兢业业地践行。

这就出现了一个尴尬的局面，我们亲手埋葬了人类文明，或者将人类文明制作成了一枚标本——以人类的名义。

圈养人类：人工智能与人类极端对比未来

相关推荐