给罗盘”:

为Vox•凯尔西派珀,写作,讨论几个问题的答案关于人工智能对人类的威胁,和深化的一般理解什么是真正的人工智能。

•派珀提到有明显缺乏政策规划或技术人工智能安全合作。捐助者如何帮助引发资本和关注这个工作吗?

•这是个人捐助者在人工智能安全的机会。

关于人工智能的谈话充满了混乱,错误信息,人们互相交谈过去——在很大程度上是因为我们用“人工智能”这个词来指很多事情。这是大局如何人工智能可能造成灾难性的危险,在9个问题:

  1. 什么是人工智能?人工智能是努力创建计算机智能行为的能力。这是一个广泛的包罗万象的术语,指从Siri到IBM ' s的华生我们强大的技术尚未发明。
  2. 它甚至可能使电脑一样聪明的人吗?许多人做的事情仍然是艾未未的掌握之外。例如,很难设计一个人工智能系统,探讨了一个陌生的环境,可以从导航,说,建筑物的入口通道上楼梯之前从未在一个特定的人的桌子。
  3. 如何会消灭我们吗?AI可以成为一个危险是植根于AI系统追求的目标,这些目标是否我们真正目的,是否我们的方式。
  4. 科学家是什么时候第一次开始担心AI风险?科学家们一直在考虑潜在的早期以来的人工智能计算机
  5. 为什么我们不能关闭电脑如果有过于强大吗?智能AI可以预测,我们想把它关掉如果它使我们紧张。所以它会努力不让我们紧张,因为这样做不会帮助它完成其目标。
  6. 我们现在在做什么,以避免一个AI启示?事实是,技术工作有前途的方法完成,但有令人震惊的小的政策规划、国际合作、公私伙伴关系。

阅读全文以人工智能为严重威胁人类凯尔西在Vox Piper。