首页 理论教育人工智能伦理准则亟待改进-《人工智能与计算机教学研究》成果

人工智能伦理准则亟待改进-《人工智能与计算机教学研究》成果

【摘要】:人工智能是一项新的技术,现有的工程伦理准则不能很好地处理人工智能面临的问题。(一)维护人工智能权利的伦理准则欠缺2016年,google的智能系统AlphaGo战胜了拥有棋坛“石佛”之称的韩国棋手李世石成为热门的话题。有人认为,AlphaGo战胜李世石,说明人工智能比人类聪明,人工智能支配人类,毁灭人类的日子已经不远了。这引发了人工智能与人主体地位之争。

人工智能是一项新的技术,现有的工程伦理准则不能很好地处理人工智能面临的问题。这就要求我们完善现有的伦理准则,建立与人工智能发展相适应的伦理体系。而在开发过程中,我们也应该制定相关规范和标准,使得人工智能的开发严格遵守人工智能的伦理规范,避免危险的发生。

(一)维护人工智能权利的伦理准则欠缺

2016年,google的智能系统AlphaGo战胜了拥有棋坛“石佛”之称的韩国棋手李世石成为热门的话题。有人认为,AlphaGo战胜李世石,说明人工智能比人类聪明,人工智能支配人类,毁灭人类的日子已经不远了。这引发了人工智能与人主体地位之争。

给予人工智能的人权,要考虑到很多复杂的因素。因为人类意志与人工意志是有区别的。意志是一种心理特点,是人克服困难,自觉地、有计划地支配自己的行为,这样一个确定目标并实现目标的过程。库恩认为,从本质看,意志不仅是一种心理过程,还是一种情感控制认知的过程。而意志的自觉性与个人的背景以及社会发展联系紧密。目前,人工智能不能表现出一个生命应该表现的特质,所以更谈不上意志这个概念了。但如果某一天,人工智能有足够的智慧能使自己的每个动作配合意识,那么到那时人们就不得不讨论机器人人权的问题了。

非人类生命也是生命的一种,而生命是特别的,不应该遭受到毫无理由的伤害。在一些人看来,给机器人人权是不理性的做法。例如,一旦它有了人权,人们就可能会因为在它做错了事情的时候打了它一拳就被警察关进监狱,这对人们来说是很可怕的事。在人机结合的社会,人工智能将在生产活动中占据更重要的位置,可能会自组装进行革命实现自我统治而不是甘于成为人类的工具或者仆人。(www.chuimin.cn)

(二)开发人工智能的伦理准则未确立

美国的航天飞机需要的零件多达500万个,有一个零件失灵都可能导致毁灭性的灾难。人工智能系统同样如此。故障在工程学上无法避免的情况下,如何应对智能系统的非正常运作是一个巨大的挑战。因为人们很难预测会出现什么错误状况,以及对于错误所造成的破坏,如何挽救损失。电脑病毒出现在智能系统的运行过程中是一件很麻烦的事情。如何规避这种工程学上的风险,是工程师需要认真考虑的,同时也是人工智能设计中必须融入的概念。

人工智能是一把双刃剑。一方面,它在未来容易替代更多人做的工作,增加我们由于工作量减少带来的幸福感。另一方面,随着人工智能,特别是智能机器人的自主性的增强,人对智能机器人的控制力减弱,人工智能对人类的安全、健康的危害的伦理风险也越来越大。追究它的伦理责任可以降低它的伦理风险。有些人为人工智能的发展感到恐惧,这是因为他们不了解机器人未来是怎样的。只有通过工程伦理学实证机器人行为原理的安全性,才能得到普通公众的信任。