科学家警告：别等AI失控再研究 提前探索人机道德互动。假如你正在路上开车，一个人突然冲到你车前，你会急打方向盘吗，哪怕这意味着一头撞墙上？如果那人是个孩子呢？再想想报税的时候：你会用上能找到的每一个漏洞吗？用不了多久，这类决定也许就要由人工智能系统替我们来做。今天，全球一半以上的人口已经在使用 AI 聊天机器人；各式各样的人工智能，也很可能经由越来越多的场景和产品，融入我们的生活。

柏林马克斯·普朗克人类发展研究所"人类与机器研究中心"的计算机科学家伊亚德·拉万及其团队认为，我们应当在这类问题真实上演之前就开展研究。他们把这套方法称作"科幻科学"——即借助科幻式的未来场景，对"人与技术"做严肃的实证研究：一边观察人们使用新型 AI 时的真实行为，一边询问人们认为 AI 应当如何行事，以此推演未来的种种图景。研究人员强调，他们的目标是尽可能客观、细致地预测未来人与 AI 将如何互动，而不是去规定企业和政府该怎样穿越这片险地。

我们会始终难以信任 AI，还是终有一天会偏爱 AI 甚于人类？与 AI 相处，会让我们变得更好还是更糟？而一旦出了岔子，责任又该落到谁头上？

为什么要研究"AI 的道德心理学"？简言之，理由与我们需要"人类的道德心理学"一模一样。我们必须弄清，是什么驱使人类更有道德或更不道德，才能建设更道德的社会，让各类机构的行为也更端正。如今，AI 机器正日益深入地与现实世界打交道，我们同样需要对它们做这番研究，因为它们将做出一个个涉及道德后果的决定。在这之前，我们要弄清：它们究竟遵循哪些道德原则（如果真有的话）？这些原则又在多大程度上源于其训练、编程、"投喂"的数据集，或其运行的具体情境？