新加坡国立大学任启智教授谈人工智能与信任危机

　　日本京都市中心坐落着一座拥有400多年历史的高台寺 (Kodai-ji Temple)，这里有绚丽的樱花和传统的莳绘艺术 (maki-e art)，如今还有一个由铝和硅胶制成的机器人的僧侣。

　　越来越多的机器人进入劳动市场加剧了各行各业的就业不安全感，Mindar，一个类似于佛教慈悲僧人的机器人僧侣就是其中之一。 机器人甚至已经渗透到曾经看似不会被自动化取代的领域，比如新闻业和心理治疗。现在人们正在讨论，机器人和人工智能系统是否能够取代神职人员。如果人们再认为这些职业不会被取代，是否过于天真?还有什么工作是机器人不能做的吗?

　　我们认为有些工作永远不会被机器人所取代。多年来自动化心理学研究证实机械人仍然缺乏一种品质——“可信度”。没有可信度，Mindar和其他机器神职人员永远不会超越人类。工程师们在设计机器人时很少考虑可信度，但可信度对于工作能否全自化有决定性影响，并不止局限于宗教领域。

　　什么是可信度，为什么它如此重要?可信度与能力相对应。能力指的是你能否做某事，而可信度描述的是人们是否信任你做某事。 可信度是信誉，让别人相信信息的真实性。

　　科学研究表明，如果你不能真正坚持自己的信念，那么赢得可信度将需要付出巨大的代价或采取不合理的方式。当格蕾塔·通贝里 (Greta Thunberg) 乘船参加2019年联合国气候行动峰会时，她的行为表达了她所坚守的信念——人们需要立即采取行动遏制气候变化。宗教领袖通过朝圣和保持独身生活来展示其可信度，如果他们没有真正坚持自己的信仰，这些做法就没有意义。当宗教领袖失去可信度时，例如天主教会性虐待丑闻曝光后，宗教机构就会失去金钱和追随者。

　　机器人具有强大的能力，但它们的可信度低。研究表明，可信度需要真实的信念并为这些信念做出牺牲。 机器人可以布道、撰写政治演讲稿，但它们并不能真正理解这些东西所传达的信念。机器人也不能真正实践如独身之类的行为，因为它们感觉不到付出了什么。

　　在过去的两年里，我们与包括高台寺在内的礼拜场所合作，以测试这种缺乏可信度的行为是否会损害雇用机器人神职人员的宗教机构。在布道时，Mindar和其他机器人牧师拥有满墙的屏幕和沉浸式的音效。Mindar在布道过程中不断旋转，与听众进行眼神交流，同时双手合十祈祷。游客纷纷涌来体验这些布道。然而，即使有这些特殊效果，我们仍然怀疑机器人神职人员能否真正激发人们对自己的信仰和宗教机构的忠诚。

　　我们进行了三项相关研究，最近发表的一篇论文对此进行了描述。在我们的第一项研究中，我们招募了离开高台寺的人。有些人见过Mindar，有些人没有。我们询问他们对Mindar和在寺庙工作的人类僧侣的可信度，然后为他们提供一个向寺庙捐款的机会。我们发现，人们对Mindar的评价不如在高台寺工作的人类僧侣可信。我们还发现，接触了Mindar的人向寺庙捐款的可能性(68%)比参观过寺庙但没有接触过Mindar的人(80%)低 12% 。

　　在后续研究中，我们随机分配人类道士或机器人传授《道德经》中的一段话。在第三项研究中，我们测试了基督徒在阅读由人类或聊天机器人撰写的布道后的主观宗教信仰。在这两项研究中，人们认为机器人的可信度不如人类，而且与人类的布道相比，在机器人布道后，他们对自己宗教身份表现出的承诺也更少。 观看机器人传授《道德经》布道的参与者(18%)散发寺庙宣传册的可能性也比观看人类牧师的参与者(30%)低 12%。

　　我们认为这些研究结论的影响远超宗教范围，并预示了自动化的局限性。当前关于自动化未来的讨论主要集中在性能上。网站“机器人会抢走我的工作吗?”(Will Robots Take My Job?) 使用机器人性能数据预估任何工作很快实现自动化的可能性。在最近的一篇社论中，新加坡管理大学 (Singapore Management University) 的行政人员认为，人工智能时代的最佳就业途径是培养“人类独特的能力”。

　　然而，仅仅关注能力可能会让我们忽视机器人因可信性不足而导致表现不佳的事实。

　　目前，从新闻业到医疗保健、法律、军事和自动驾驶汽车等领域，机器人的可信度都受到关注。在这些领域，机器人能够熟练执行相关的工作，但它们未能建立信任，而这一点至关重要。人们对于由人工智能生成的新闻缺乏信任，也不希望由机器决定谁在无人机袭击或交通意外中的生与死做出道德决策。

　　教育也可能遭受可信度危机。 可汗学院 (The Khan Academy) 是一个提供在线学习平台的机构，它最近发布了一款名为 Khanmigo 的生成式人工智能，引导学生思考，而不是直接答案。但这些计划能奏效吗?

　　就像虔诚的人需要一个为信仰而牺牲的领袖一样，学生需要有能力且值得信赖的教师。因此，自动化教育可能会进一步加剧教育不平等。富裕家庭的学生将能够获得老师指导及人工智能辅助，而来自贫困背景的学生可能最终在只有人工智能指导的教室中学习。

　　可信度对于政治和社会也十分重要。 难以想象机器人能发表亚伯拉罕·林肯 (Abraham Lincoln) 的葛底斯堡演说 (Gettysburg Address) 或马丁·路德·金 (Martin Luther King) 的“我有一个梦想 (I Have a Dream)”演讲。 这些演讲如此有力，因为它们充满了作者真实的痛苦和爱。

　　那些需要可信度的工作，如果能结合人类的可信度与人工智能的能力，俩者互补不足，而不是取代，便能更有效地运作。人们可能不信任机器人记者和老师，但会信任在背后使用人工智能的人类。

　　我们需要预测未来的工作趋势，认识重视人文关怀的职业，同时肯定该领域中的人类工作。在推进人工智能技术的飞速发展的同时，我们必须谨记，有些事情是机器人无法做到的。