首页 理论教育人工智能安全保障服务:守护你的AI系统安全

人工智能安全保障服务:守护你的AI系统安全

【摘要】:你可能会疑惑,人工智能系统是按照人类的设计运转的,为什么还要考虑安全性?正是基于这些安全方面的问题,人工智能安全保障服务应运而生。它其实是一款2D视频游戏,只要客户把人工智能程序植入其中,就能够测试评估9项安全功能,包括人工智能系统是否会自我修改,以及能否学会作弊等。随着人工智能的应用越来越多,安全需求也会越来越大,这一市场势必迅猛增长。

互联网需要安全保障,人工智能同样需要。你可能会疑惑,人工智能系统是按照人类的设计运转的,为什么还要考虑安全性?

这里的“安全”主要指三个方向:保证目标清晰、保护系统免受干扰和监测系统运转过程。

知名人工智能研究机构OpenAI讲过一个有趣的例子:

他们给人工智能系统训练一款赛艇驾驶游戏,游戏的评判规则是,驾驶途中收集了多少个金币,以及最后的总用时。但人工智能似乎出现了问题,为了不断收集金币,非但毫无跨过终点线的意思,反倒绕了好几个圈。后来,情况越来越失控,人工智能甚至开始和其他赛艇碰撞,或是过程中自己撞墙毁灭。

另一个案例则更为严重。2018年3月,一辆优步自动驾驶汽车在进行测试时,撞倒了一位正在过马路的女子,女子最终因抢救无效死亡。据媒体报道,优步自动驾驶没有识别出行人,也没有采取任何的制动措施。

正是基于这些安全方面的问题,人工智能安全保障服务应运而生。其中,最出名的要数谷歌旗下Deepmind开发的一项安全测试。它其实是一款2D视频游戏,只要客户把人工智能程序植入其中,就能够测试评估9项安全功能,包括人工智能系统是否会自我修改,以及能否学会作弊等。

而在中国,包括阿里巴巴华为百度等巨头,也加入了人工智能安全业务的争夺。随着人工智能的应用越来越多,安全需求也会越来越大,这一市场势必迅猛增长。