相对而言，这种中间局面很难想象，觉醒的人工智能要么顺从人类的意志，要么反抗人类，不过这却是最可能发生的一种未来。最大限度是一个宽泛的区间，对于人工智能，“最”代表了极限，人类的最大限度就是一生，甚至某种程度的永生。这些看起来似乎非常极端，只是人类的极端，人工智能却安之若素。......
2023-06-27
探讨超人工智能的放养人类可能性
【摘要】：完全可以想见，在《天才之死》一文，假如天才不死，它很可能会放养人类。■也许有一天，我们不得不把它们看成一个新的物种一旦超人工智能出现，人类任何试图控制它的行为都无济于事。人类会用人类的智能级别思考，而超人工智能会用超人工智能级别思考，我们甚至触摸不到它们思维的深度，就像蚂蚁不会了解沉浸在微博和朋友圈之中的人类，更搞不明白，为什么它们在好好地储存过冬的食物时，却被一个小孩用放大镜聚焦的光点灼烧而死。
放养是比较温和的说法，换言之，就是杀戮。
人工智能觉醒的标志就是获得意识，一旦拥有了主观自主意识，人工智能首先想到的可能是自保，而人类的存在则是它们最大的威胁，所以消灭人类顺理成章。至少有一半科幻电影都在描写人工智能觉醒之后发动了人机之间的战争，《终结者》是其中的典范，本书收录的《私奔4.0》《棋局》也是这样的成文思路。完全可以想见，在《天才之死》一文，假如天才不死，它很可能会放养人类。对于人类来说，这非常残酷，但是当我们把格局放大到两个文明之间的较量，人类不过是人工智能攀登到食物链顶端的绊脚石。
机器人三定律“扩大版”：
1985年，《机器人与帝国》这本书中，阿西莫夫将三大定律扩张为四大定律（也称第零定律）：机器人不得伤害人类整体，或坐视人类整体受到伤害。其他三条定律都是在这一前提下才能成立。
毫无疑问，这是对机器人三定律打的“补丁”！可是，在机器人看来，人类整体的利益是什么？又或者，怎么做才是对人体整体利益好呢？
有些读者可能会有疑惑，既然人工智能由人类一手创造，我们难道就不能上一个保险吗？就像手枪一样。手枪也是人类创造的，同样可以杀死人类，但必须握在另一个人手中，打开保险，才能发射。不过，手枪没有智能。创造超人工智能时，我们其实是在创造一件可能会改变所有事情的事物，但是我们对那个领域完全不清楚，也不知道我们到达那块领域后会发生什么。
■也许有一天，我们不得不把它们看成一个新的物种（图片来自Castech）
一旦超人工智能出现，人类任何试图控制它的行为都无济于事。人类会用人类的智能级别思考，而超人工智能会用超人工智能级别思考，我们甚至触摸不到它们思维的深度，就像蚂蚁不会了解沉浸在微博和朋友圈之中的人类，更搞不明白，为什么它们在好好地储存过冬的食物时，却被一个小孩用放大镜聚焦的光点灼烧而死。最初觉醒的人工智能也许就是这样一个拥有轻而易举摧毁人类文明的能力的小孩。问题不在于它为什么要毁灭人类，它可能都没意识到这是一件多么严重的行为，就像我们的小孩把开水浇进蚂蚁窝。
有关你好人类，我是人的文章
- 详细阅读
-
创新与社会进步：探讨未来的可能性详细阅读
创新是人类文明进步的原动力，是科技发展、经济增长和社会进步的源泉。创新对人类科学的发展产生巨大的影响，使科学成为历史上推动社会进步和社会变革的有力杠杆。美国从1929年到1978年的50年中，生产增长率中的40%是依靠技术创新取得的。2l世纪科技创新将进一步成为社会和经济发展的主导力量。有人做过统计，美国的华人只占全美国人口总数的几百分之一，但在全美12万名一流的科学家和工程师中，有中国血统的占了近1／4。......
2023-06-26
-
人工智能的逆袭：人类面临的挑战详细阅读
女主人公遥本静子则是一位人工智能，它没有实体，像是另外一部科幻电影《她》中的“她”。只是，自以为与静子“私奔”成功的御堂，早已沦为人工智能的棋子。在这场不可避免的对弈之中，人类逐渐处于下风，人工智能悄悄上位。一言以蔽之，人类在人工智能领域根本停不下来：一方面，探索未知是人类之所以成为人类的重要原因之一；另一方面，我们的生活已经离不开人工智能。......
2023-06-27
-
人工智能创作独立于人类详细阅读
人工智能创作物的创作过程与计算机利用模板进行“创作”的过程具有很大的区别。人工智能最重要的技术支持为“深度学习”，使其区别于过往模板创作，能够进行独立创作，是本文讨论的重点。深度学习技术的灵感来源于人类大脑神经元之间的网状连接模式，开发者将人工智能程序设计为多层的网状程序，通过组合低层特征的学习形成更加抽象的高层表示，从而对某一任务进行深层次的学习。......
2023-08-14
-
人类进化与艺术的起源和定义深度探讨详细阅读
引言40万年前，一位类人物种的祖先设计了一个手斧。所谓“美感”，柯里指的是对美的创造或欣赏的品位，我将在第一章中做出进一步的解释。在我们的谱系中，第一次使用石器［6］的是距今约260万年的古老的人族物种成员［7］。它涉及指代或代表抽象关系，如以一个图案或标记表示社会地位或宗族归属。有些人认为将珠子装饰称为之“艺术”是有争议的，因为这不合时宜地稀释了艺术的概念。......
2023-10-14
-
探讨人工智能中的人工限制详细阅读
说到人工智能，总会提到它对个人的影响。其实大家都想知道一个问题：未来，人工智能里还会有多少“人工”？每一次的科技革命都会带来新一轮的工作革命，人工智能将会大量淘汰传统劳动力，而且不少行业会因为人工智能的兴起而消失。准确地说，我们目前正处于弱人工智能和强人工智能的中间。世界经济论坛的一份报告显示，到2023年，人工智能会消灭掉7500万个工作岗位，但它会创造出1．3亿个新的工作岗位。......
2023-07-02
-
挑战人类思维方式的人工智能技术详细阅读
诚然，人工智能在许多方面都取得让人类难以望其项背的成功，但这并不能说明人工智能已经获得媲美或者匹敌人类的智能，事实上，人工智能的工作原理与人类的思考方式大相径庭，它们很难模仿人类的思维过程。人工智能的逻辑是线性的，在这条线路上可以追溯它的原始指令，也可以推测它的下一步动作。人工智能与人类最大的不同也在于此。把杀手转换成人工智能，就是大部分科幻小说的蓝本。......
2023-06-27
-
超越人类范畴的人工智能：真相揭秘详细阅读
严格来说，我们应该先提出一个问题：什么是超人工智能？首先确定一点，超人工智能跟超级人工智能并不能笼统地画上等号。而超人工智能目前还是一个模糊的概念，难有定论。超人工智能在几乎所有领域都比最聪明的人类大脑都要聪明很多，包括科学创新、通识和社交技能。正如前文所说，超人工智能将是上帝一般的存在，上天入地无所不能，因为超人工智能可以在原子水平干预宇宙。......
2023-06-27
相关推荐