人工智能要解决的最大挑战之一是意外后果，也是这次“对话”的主要话题。基本上，如果我们无法解释、测试、信任它，那么它将是不可预测的，并且会带来意想不到的后果；如果我们能够解释、测试、信任、预测它，那么它将产生我们期望的结果。世界上已经有很多人工智能技术实现了产业化。也就是说，这些产品出错的可能性非常低，比如Siri、Netflix等，但如果出错，你可以尝试改变声音或添加更多数据点来进行修复。迄今为止，由于我们部署了基于AI的认知辅助系统而没有发生严重的后果，因此AI的影响很小。现在，我们正在处理武器系统。这就是为什么我们在国防部花费很多时间来确保与美国法律和价值观保持一致的卓越表现的原因，我们甚至还为海岸警卫队研发搜索和救援产品，所有正在处理的问题具有生死攸关的后果。对我们而言，完成任务至关重要，我们今天所做的改进是加速和改变 AI 的决策方式，改变游戏规则。正如我之前所说，这将是赢家和输家的区别。
