首页 理论教育如何让人工智能说谎?探索圆谎之难

如何让人工智能说谎?探索圆谎之难

【摘要】:对于人工智能,最难的是圆谎。遇到雪崩的情况并不常见,但圆谎的事情恐怕人们都做过几回。这近乎是一种进化的本能,我们在说出这些谎话以及帮助谎话成立和站稳的谎话几乎都是脱口而出。反映到说谎和圆谎上来,通过特定的编程,我们可以设定人工智能的语言输出模式,让它发表与认知相悖的言论(即谎话),但想让它把谎话圆回来,不是简简单单几行代码就能搞定。对于人工智能来说,驾驭谎言将是一条漫长的旅途。

说谎也好,测谎也罢,都是技术层面的工作,通过一些特定的编程都能达成,以上仍然是逻辑的产物。对于人工智能,最难的是圆谎。

毋庸置疑,我们每个人都有说谎的经历,每个人也都有被质疑的遭遇。当一个谎言快要戳破之际,补救方法往往是再堆一个谎言,如此一来,谎言就会像滚雪球一般,越来越大,造成雪崩。遇到雪崩的情况并不常见,但圆谎的事情恐怕人们都做过几回。这近乎是一种进化的本能,我们在说出这些谎话以及帮助谎话成立和站稳的谎话几乎都是脱口而出。我们潜意识认为,这就是最优解。人工智能最难的就是脱口而出,它们对于最优解的把握与人类大相径庭。

数学有一门分支叫作最优化理论,意在尝试找到能达到一个给定数学目标的参数组合。在人工智能领域,这些参数被称作突触权重,反映了信号从一个神经元通向另一个神经元的强度。深度学习的最终目标是做出准确的预测,将误差控制在最小范围。当目标是参数的凸函数时,可以逐步对参数进行调整,直到接近全局最小点,即整个网络的平均预测最小误差值。然而,神经网络的训练需要另一种“非凸优化”的过程,导致轻微调整参数值无法减小预测误差,难以进一步提升模型性能。反映到说谎和圆谎上来,通过特定的编程,我们可以设定人工智能的语言输出模式,让它发表与认知相悖的言论(即谎话),但想让它把谎话圆回来,不是简简单单几行代码就能搞定。

对于人工智能来说,驾驭谎言将是一条漫长的旅途