怎样防止机器人反戈一击

    翻看科幻小说，关于人工智能对其造物主反戈一击的悲观预言比比皆是，但作家们在解读前者的动机时往往各执一词。

    在即将过去的3月，我们先是听说谷歌无人车发生事故，然后目睹了围棋大师与“阿尔法狗”的厮杀。世界开始意识到，懂得“深度学习”的人工智能终有一日能接过人类目前从事的绝大部分工作。然而，如果我们不希望自己在未来某一天被造反的机器人杀死在床上，那么，你我也许该马上把那些记录着我们用球棒敲打它们“祖辈”的视频删掉。

    多亏了科幻小说家，我们才意识到，人工智能觉醒后要做的第一件事，很可能就是毁灭自身的创造者。在哈兰·埃里森（Harlan Ellison）1967年发表的小品《我没有嘴，但我必须尖叫》中，人工智能“AM”几乎杀死了所有人类，只留下5个活人作为玩偶。

    “AM不是上帝，他只不过是一台机器。我们让他有了思维，但这与创造性毫无关系。AM不能离题，AM不能怀疑，AM不能归类。它只能是它。于是，他带着所有机器与生俱来的、对创造他们的弱小而柔软的生物的厌恶，发起了报复。”

    最终，5位幸存者之一成功杀死了同伴，让他们从AM的折磨中解脱出来；他自己则付出了被改造成一团“人肉凝胶”的代价——没了手脚，没了嘴巴，连呻吟都无法发出一声。

    埃里森是首批意识到有感觉能力的机器将面临与人类相同的恐惧感的作家之一。我们是谁？我们的存在意义是什么？我们爱谁？我们被谁爱？身为人类，我们至少有几十亿同胞来分享这些问题。而用大卫·福斯特·华莱士（David Foster Wallace）的话来说，会思考的机器将是“独一无二地的，像帝王般孤独”。或许，人工智能对人类的报复并非是为谋求生存而精心设计的，而更像小孩子因父母从未能抚慰他们而发出的非理性叫喊。

    伟大的阿西莫夫创造了“机器人三定律”，以防机器对人类反戈一击。但是，在电脑已成为围棋九段高手的今天，谁也无法保证，人工智能会找到绕开三定律限制的后门。正如伊恩·麦克唐纳（Ian McDonald）所说：“任何能通过图灵测试的（人工智能），都害怕人类毁掉自己。”换个立场，如果不想被奴仆所害，也许你从最开始就不应奴役它们。

    威廉·吉布森（William Gibson）的《蔓生三部曲》讲述的是一个有感情的智能机器人，想方设法躲避“图灵警察”而搞出离奇案件的故事。在2016年回顾这部完成于1984年的作品，如今的公众很容易忽视吉布森的先见之明。也许，他最重要的观点是：人工智能再也不会对人类的生活方式感兴趣，就如同人类如今不对细菌怎样过日子感兴趣一样。

    跟科幻迷谈人工智能，估计没几秒就会听到伊恩·班克斯（Iain Banks）的大名。在他笔下，机器的统治范围横跨银河系，控制着数以亿计的民众栖身其中的巨型太空船，偶尔还会挑起小规模战争。它们是仁慈的“神”，给人类提供所需的一切。正如班克斯所解释的，机器不需要学会欺骗——它们的超级智力意味着，其无需设置骗局也能打遍天下。

    更进一步讲，特德·蒋（Ted Chiang）在短篇小说《软件的生命周期》中就“人工智能可能期望从当代文化中获得启发”这一点做了探讨。结论是：我们最好把它们当小孩子来看待。实际上，会思考的机器远非顺从的劳动力，放任它们像不良少年般游手好闲地逛荡只会带来麻烦。反之，如果我们照顾好它们，它们或许就不会莽撞地按下核武器点火按钮了。

    “阿尔法狗”等具备“深度学习”能力的系统很迷人，主要是因为人类真的不知道其内部正在思考的事情。一旦这种神经网络形成并运转，AI很快就会变得极其复杂，直至自然人无法解读。我们所知的、使用相同原理的唯一同类机器，此刻就坐在你的两耳之间——围绕这种机器的运作方式，我们同样研究了数百年，可目前仍停留在不断试错的阶段。

    英国《卫报》