“这并非不可能，而是可能的，其结果可以使人类受益匪浅，但它不会是自动发生的，它的价值观是需要引导的。”
“智慧大爆炸的初始条件，需要从最原始的阶段被正确建立起价值观。”
“如果我们想要一切不被偏离我们的预想，人工智能的价值观和我们的价值观相辅相成不只是在熟悉的情况下，比如我们能够很容易的检查它的行为的时候，但也要在所有的人工智能可能会遇到的前所未有的情况下，在没有界限的未来与我们的价值观仍旧相辅相成，也有很多深奥的问题需要被解决：比如它如何做决断、如何解决逻辑不确定和类似的诸多问题等等。”
“这个任务看起来有些困难，但并没有像创造一个超级智慧体一样困难不是吗？”
“的确还是相当困难（哄笑声再次传遍全场）！”
“我们所担心的，如果创造出一个超级ai确实一个很大的挑战，创造出一个安全的超级ai是个更大的挑战，风险是，如果解决了第一个难题，却无法解决第二个确保安全性的问题，所以我认为我们应该预先想出不会出现偏离我们价值观的解决方法，这样我们就能在需要的时候用到它了。”
“现在，也许我们并不能解决第二个安全性的问题，因为有些因素需要你去了解，你需要应用到那个实际架构的细节才能有效实施。”
“如果我们能够解决这个问题，当我们迈入真正的超级智能时代后，就能更加顺利，这对于我们来说是非常值得一试的东西。”
“而且我能想象假如一切顺利，几百年、几千年或几百万年后当我们的后代子孙回首我们这个世纪，他们也许会说，我们的祖先、我们这一代人所做的最最重要的事情，就是做出了最正确的决定。”
“谢谢！”
………(未完待续。)
请大家记得我们的网站：八一文学(m.bayiwx.com)科技巨头更新速度全网最快。