首页 理论教育人工智能对人类安全的影响与计算机教学研究

人工智能对人类安全的影响与计算机教学研究

【摘要】:人工智能对人类安全的影响体现在智能机器人的失控和生态环境的破坏上,因此人类需要避开这样的安全威胁,为人类的未来着想,实行人工智能的可持续发展战略。战争机器人的这些优点被各国所注意到,因此各国争相发展智能战争机器人。而且一旦机器人和人类在战场相遇,导致机器人杀人,智能机器人成为杀人机器人,这对人类的威胁将是巨大的。

人工智能对人类安全的影响体现在智能机器人的失控和生态环境的破坏上,因此人类需要避开这样的安全威胁,为人类的未来着想,实行人工智能的可持续发展战略。

(一)智能机器人的失控

未来,一旦人工智能可能有像人一样的思维,人类就可能面临风险。就像电影《银翼杀手》里所表达的那样:“如果智能机器已经足够强大了,它可能会对我们的生活造成威胁。”人们一般认为人工智能获得了重新编译和重组它们的能力,或者也可能会出现一个智能系统重新编译另一个智能系统的情况。例如,学习系统可能会成为人工智能体道德建构的较好选择,但这个方法也存在一系列问题。在初期,学习系统需要人类隔离它们在试验中的错误或漏洞。在较为成熟期,学习系统基于自身系统,会进一步扩展信息的广度和深度,从它们所处的环境中、其他机器或者人类那里学习。而在学习的过程中,固有系统很有可能会与习得知识相冲突,甚至会绕开人类的一些限制,推翻人类的控制机制,从而可能会给人类带来灾难。学者钟义信认为:“如果一个机器人拥有了高度的自主性,简单的控制系统很难再发挥作用。”

(二)战争机器人的滥用(www.chuimin.cn)

人工智能机器人在战场上生存能力强,攻击火力强,受后勤制约少,绝对服从命令。战争机器人的这些优点被各国所注意到,因此各国争相发展智能战争机器人。智能机器被制造的目的是让它保护人类,但是智能战争机器人设计的目的是与此相悖的,这本身就是一种伦理冲突。而且一旦机器人和人类在战场相遇,导致机器人杀人,智能机器人成为杀人机器人,这对人类的威胁将是巨大的。

(三)生态环境的破坏

人工智能有其道德责任,即保护环境,这一道德责任对现代的人们来说是非常重要的。海洋具有丰富的资源,但是阻碍人们开发海洋资源的最大问题是如何保障海底资源。适应深海作业的机器人开发之后,便可以开发深海海洋资源。向外太空进军的情况也是一样。随着人们向海洋和太空进军,人们可以得到更加丰富的资源。但是,面对这些资源,人类是否能够遵循可持续发展原则,合理适度地开采?同时,在对资源的利用过程中,又会产生大量废料,污染环境,造成新的生态危机,人们利用智能机器人开发、利用海洋和太空资源时,我们地球的脆弱生态圈是否能经得起考验?还有,人们非常担忧智能机器异化,后来毁灭人类,这也属于生态风险问题。工程活动中建立伦理意识却相当困难,人工智能技术不断更新,可是工程师们还是缺乏科技知识的学习。不能建立起环保意识,这就说明了环境伦理学普及的必要性。