一旦我们获得主算法，并输入由每个人产生的大量数据，人工智能系统可能通过学习得出每个个体的非常准确和详细的模型：我们的口味和习惯、优点和缺点、记忆和愿望、信仰和个性、我们在乎的人和事，以及任何特定场景下我们会如何回应。我们的模型实质上能够预测我们将做出的选择，这既令人兴奋又令人不安。
许多人担心，拥有这些能力的机器会利用它们新获得的知识来夺走我们所有的工作，奴役我们，甚至消灭我们。但这是不可能发生的，因为它们没有自己的意志。基本上，所有的人工智能算法都是由我们设计的目标驱动的，比如“找到从酒店到机场的最短路线”。这些算法与普通算法的区别在于，它们可以灵活地决定如何实现我们为它们设定的目标，而不是需要执行预先定义的一系列步骤。即使通过不断执行任务而得到优化，它们的目标仍然没有改变，不能更好地实现目标的方案会被自动放弃。此外，人类会核查机器的成果是否符合我们的目标。我们还可以验证机器有没有违反我们对它们施加的限制，比如“遵守交通规则”。
那么，人工智能会让我们的未来变成什么样子呢？智能机器确实会取代许多工作，但对社会的影响可能类似于以前的自动化机器。200年前大多数美国人都是农民，如今机器已经取代了几乎所有的农民，却没有造成大规模的失业。末日论者认为，这一次是不同的，因为机器正在取代的不仅仅是我们的肌肉，更是我们的大脑。但是，人工智能距离承担我们的所有任务仍然非常遥远。可见预见的未来，人工智能和人类将擅长不同的事情。机器学习的主要作用将是大大降低智力成本。这种普及进程将让人工智能在更多的领域变得经济可行，创造新的就业机会，并改造旧的工作，让相同数量的人力能完成更多工作。
然后，还有未来学家雷·库兹韦尔宣扬的“奇点”。他设想，技术进步会永远不断加速：机器不只会制造更好的机器，而新的机器又能制造出比它还要好的机器。但我们知道这是不可能的，即便是量子计算机——它的计算能力也受到物理定律的严格限制，而且在某些方面，我们距离这样的极限已经不远了。人工智能的进步，就像其他一切的进步一样，最终会趋于平稳。
另一个在未来学家中流行的观点是，我们自身的计算机模型将变得非常完善，以至于与真实的我们没有区别。在这种情况下，我们可以把自己上传到云端，永远作为软件的一部分存在，不受现实世界的约束。不过这面临着一个问题：它在生物学上可能行不通。为了上传你自己，你需要一个精确模型来描述你的每一个神经元，以及它们储存的记忆。你必须非常可靠地采集这些信息，使得模型的预测结果尽可能地符合真正神经元的行为——这确实是一个艰巨的任务。但即使这是一个可行的选择，如果你有机会，你真的会上传自己吗？你怎么能确定你的模型并没有丢失你的一些必要组成部分——或者，这个模型真的拥有意识吗？如果一个小偷以最为绝对和完整的方式偷走了你的身份呢？我相信，只要人们可以，都会选择死守他们那以碳为基的本体——直到坚持不下去为止。
