在一些伦理学领域也有这种“上下之别”，比如康德，还有更早的功利主义学派，如边沁和密尔，他们就更像是“自上而下”。这些学者试图制定规则以及普遍原则，以便通过这些“条条框框”判断出一个行为是不是道德的。这样对康德的道德律令而言，其涵义就包含着多项具体规则，例如“不撒谎”。

亚里士多德对于道德持有相当不同的观点。他认为，道德应当是一个人通过训练而习得的。因此，亚里士多德的观点就更倾向于一种“自下向上”的方法，这种方法就是一个人通过练习变得好、善良、勇敢。当践行道德的时候，我们就称之为美德伦理。通过这样做，一个人会变得更具美德、会有更好的行为。

我认为亚里士多德的看法更正确。因为人类并不是靠“瞎碰瞎撞”去养成习惯的，也会对习惯进行思考，并思考需要哪些原则。亚里士多德注意到，在原则灌输和习惯训练之间存在着一种相互作用。我们认为，这种途径同样也适用于人工道德智能体的构建。在很多实时决策的情境下，我们并没有足够的时间来反思行为背后的理论或原则含义。但是，我们还可以从错误中学习，因为可以使用这些“自上向下”的原则重新评估我们所做的事情，之后再进行调整和重新训练。

这就是混合方法的基本思路，我认为它确实符合人类的情形。举个例子，当你还是个孩童时，你对兄弟姐妹做了什么不好的事情，父母会说“如果这种事情发生在你身上，你会有何感受呢”，是吧？在许多道德传统中都有这样一种原则：“以你自己对待自己的方式，或是你希望被别人对待的方式去对待他人”，有时人们也称这一原则为黄金法则。所以，你不仅仅被告知不要那样做，也并不仅仅因此而受罚，实际上你会被告知去思考这样做为何是好的或不好的，这就是“自上而下”与“自下而上”的结合。

问：应该限制人工智能的发展吗？

艾伦：我认为这取决于应用领域。我现在并不担心机器人或人工智能会取代人类，如果情况变得危险，我们是有能力去阻止它的。比如说突然发现机器人可以生产机器人，我们要做的无非就是切断电源。

当然，确实存在一些应当停止人工智能应用的地方，其中一个就是人们正致力开发的军事领域。从人类的历史来看，一旦有人构想出一个武器，那将很难阻止另一些人的欲望及其为之奋斗的野心。核武器和无人机就是很好的例子。

但是，我不认为应该阻止其他形式的人工智能发展。我们需要思考技术对生活带来了怎样的后果，比如说，自动驾驶汽车会使行人过马路更困难，还是更加容易呢？自动驾驶汽车面临行人过马路的情形时应附加什么样的权限呢？无人车看到行人能不能安全停下，还是说它像人类司机一样，依然有可能撞到行人？这些都是我们需要对人工智能进行思考的问题。无人驾驶汽车不仅不该停止发展，而是应该投入更多。

问：机器人会变得更好还是更危险？

艾伦：过去10年来，人工智能在某些方面的飞速发展令人吃惊，但算不上满意。在我看来，未来10年内无人驾驶汽车投放到真实路况中的可能性不大。苹果公司推出了一个可以交谈的智能体Siri，但以现在的情形来看，Siri很糟糕不是吗？所有我使用过的类似产品，诸如Alexa，Google Talk，都不尽人意。所以我现在不会从伦理的视角对人工智能的发展过于担心。这些企业居然真的发布了这些产品，但更令我惊奇的是，人们居然在很大程度上调整自身行为以适应人工智能，因为你知道把Siri当成正常人来交谈的话，它永远不会明白你的意思。人类在做出调整，并非机器，因为机器并不是一个自适应的系统。或者说，它比人类具有更弱的适应性。这是最令我担心的。

当然，我所担心的并不是机器做的事情超出人类的预想，而是它们可能改变并限制我们的行为。AlphaGo赢了围棋，但并未改变我们的日常生活，所以没什么好担心的。我担心人们用愚笨的方式与机器交谈，以便机器按照我们的想法做事。要知道，这具有许多潜在的危险。它潜移默化改变我们的习惯行为，使我们对某些类型的错误更具容忍性而对有些错误却更加苛刻。人们会预料到并且能容忍人类所犯的道德错误，但是，人类可能不会容忍这样的错误在机器上发生。经过规划考虑后仍对他人造成伤害的决定如果发生在机器上，会比发生在人类身上更不能令人容忍。在过去10年内，这种改变已经发生了。即使软件会变得更好，机器也会变得更好，但是永远都存在着让人类去适应机器而非真正提高人类能力的危险。