审校：闫盖
人工智能学家出品
人工智能（AI）一度是科学界并不受重视的一项技能，在过去的二十年里却得到了飞速的发展。绝大多数人现在都不得不承认我们的生活已经无法离开智好手机和Siri了，貌似人工智能无所不能的特质使它无声地进入了我们生活的每一个角落，从华尔街的机器人顾问和犯罪定位安全摄像头，到谷歌的BigQuery大数据剖析和人工智能程序Watson进入医学领域的诊断。
只管可能导致人类社会经济和文化构造的倒退也是一个潜在的事实，但在许多无法预见到的领域中，人工智能能够帮助提高我们的生活效率。未来生活研究所的口号总结得非常简洁时尚：“技能从来没有像现在这样使生活更加繁荣昌盛…亦或是自撤消亡。”人类是创造者，但是我们能否一贯把这些革命性的创造节制在手心里吗？
对更多的普通大众而言，人工智能就仅仅是人工智能，但这只对了一部分。现如今，人工智能的发展有两项基本标准——ANI（狭义人工智能）和AGI（广义工智能）。ANI常被称作“弱人工智能”，是这两个标准中的“专家”，它被用来实现各种分外的功能。我们周围的大多数技能（包括Siri）都在ANI的范围内。AGI则是下一代的ANI，它是人类梦想中的人工智能的类型，能够创造出实现人类意识的机器。
现在很热门的话题是机器将来会不会变得故意识和知觉，至少就像人类所能够觉得到的那样。在互联的天下里，分享一个人的不雅观点变得非常便捷，每个人都一定会碰着对未来10年到1000年乃至到永久的预言。但是我们怎么才能知道哪些不雅观点是根据研究和履历得到的，而哪些又是像古老的电话游戏一样的来自于网络中的胡说八道？
我决定深入人工智能天下，采访了生动在这个领域的12位威信专家和研究职员，理解各种想法和意见，去探求AGI的未来以及可能存在的风险。只管对类似危急的意见差别很大，但却有一个共识，那便是创造出故意识的机器是完备有可能的。
创造出故意识的机器是完备有可能的
图片来自网络
Helgi Helgason博士相信“人类智能和意识出身于自然之中，它是从物理和化学反应中产生的，如果我们这么期待的话，我没有任何情由疑惑我们不能在人类创造的系统中复制这个过程。”他的陈述是普遍的一个想法，Andras Kornai博士也认同地声称“这样的事情是有可能从蛋白质构建起来的，很明显没有什么地方须要邪术。”
而布达佩斯技能研究所的教授Kornai避开了“邪术”的说法，不止一位的专家表示我们仍旧不清楚人类意识是怎么涌现的，这就像是摆在AGI发展路途上的一个实际存在的障碍。就像Skeptic杂志的创始者Michael Shermer博士所预见的那样，“我以为在不久的将来无法得到办理，由于人类大脑太过繁芜而我们又还不太理解意识是如何通过神经元电旗子暗记的通报产生的，但是长期来说这一定会得到办理。”
谢菲尔德大学的Noel Sharkey博士认为由于我们还不理解意识产生的事理，我们就不知道这能不能够在一台机器上重新实现。“这个问题不太可能得到答案，由于意识的事理仍旧笼罩在一团迷雾之中，还没有任何充足的科学理论或者模型。非常确定的评论辩论这一点的人们都是痴心企图的。说意识不能在打算机上被创造出来该当是没有道理的，但是就算我们明白了意识到底是什么之后，也仍旧不知道它能否在生物体外发生。” Sharkey说。
其他人，包括乌特勒支大学的Medhi Dastani博士和美国伍斯特理工学院的Eduardo Torres Jara博士，都认为我们可以创造出这样的意识，但问题是如果想要这样的一台机器能够体验到和人类一样的“意识”，现在看来彷佛是不太可能的事情。
人工智能乐不雅观者与悲观者
图片来自网络
没有人能够预知未来，但是基于这些研究者们做一些推测的话，最伟大的发明将会在2021年到2060年间或者未来的10到50年里涌现。如果这些预言得到证明，就会给我们的社会整体带来许多的伦理方面的问题。不止Elon Musk一个人表示了对人工智能危险的担忧——牛津大学的Nick Bostrom和加利佛利亚大学的Stuart Russell便是许多持此类不雅观点的一份子——但是还有不同意近期的这些人工智能威胁论的声音。
在采访的12位研究职员中，有三位显得分歧凡响。采访的大部分的专家都担心现在已经存在的金融经济的危害，这可能会无意识地加剧极度情形的提高，导致一系列的更大的贫富差距和环境毁坏，例如污染和资源短缺。
“近期的人工智能引起的危急可能终极成为现在社会中已经存在的一样的危急。如果我们不能走出基于工薪的经济模式的话，人工智能的自动化会提高生产力，却不会改进我们的生存条件。”认知科学家Joscha Bach博士说。Helgason博士表示这是事实而不仅仅是危急，教诲政策中该当已经考虑到这种风险。
Kornai博士和阿肯色大学的Daniel Berleant博士都预见到了自动化金融算法被它们的所有者们用来赢利所带来的潜在的灾害性问题，没有任何“人类性”的目标。Dastani博士担心智能机器的打算能力会超过人类。他强调“自动打算机系统交互的不断增加可能会引起难以预测并且无法追踪的不良后果。”金融监管和经济构造的重新设计是这些问题最明显的办理方法，但是更繁芜的细节彷佛仍须要充分的研讨，尤其是在公共政治领域。
类似的担忧常常在媒体中涌现，反杀手机器人的积极分子Sharkey博士和布兰迪斯大学的Michael Bukatin博士都认为自动化机器要么超智能化自我战斗并且在这个过程中消灭我们，要么引起专横獗的自动化武装冲突，产生正当的威胁。
其他的意见认为人工智能是无害的（永久都是），相反，人工智能背后的人类才是难以预测而且不可相信的，就为了得到金钱或者权利这些短视的目标。Michael Shermer博士预言近期未来最有可能的人工智能危急就包括“坏人为了他们的目的操控人工智能，人工智能本身并没有罪，它们危害人类这样的事不会发生。”
如果自主能力和意识齐头并进的话，Eduardo Torres Jara博士就会认为前者的威胁性更大——只管他并不能预言这就会在不久的将来发生。“很难相信人工智能会成为现实的危险。任何的高新技能都会有它自己的风险。例如，航天飞机的翱翔掌握可能会失落败而引起一场事件，然而用于掌握航天飞机的技能本身却不是危险的。至于机器人，我们可能并不肯望拥有武器化的自动机器人由于“自主能力”是并不可靠，这样纵然在机器人失落败的情形下后果也不会严重，” Torres说。
只管少得多的研究者们站在相反的态度上，有一些研究者——包括乔治梅森大学的Robin D. Hanson博士——对付近期的人工智能威胁论表示，完备没有危险。我们可能称呼这些为人工智能的乐不雅观分子。
我们敢超越未来的20年来说人工智能的风险会发生在未来10年里吗？只管一些打仗的商业家们像比尔盖茨（还有Elon Musk宣扬的人工智能的声明）揭橥了一些声明，大多数的研究者们都能理解清楚阐述这种深远的风险所带来的忧虑，而一些人则放弃给出任何答案。在某种程度上，这是一种明智的选择，深刻的历史教训见告我们未来常常和我们现在所想象的完备不同。
另一方面，正是我们现在的想象和行动塑造了未来的样子。对人工智能危急的预防做出的努力和解决方案可能会为短期的未来打下根本，把我们的目光放到更迢遥的未来想象人工智能可能带来的潜在的阴郁并不完备是无稽之谈。在大多数情形下,类似的研究者们方向于只对人工智能危急给出在短期内类似简短的回答
从腐败的领导者们正在通过法律的履行来压制人工智能的影响，到我们不能完备理解的无法阐明也无法证明的人工智能，潜在的危急多种多样并且让人感到深深的忧虑。一些研究者们疑惑人工智能迟早会改变人类的事情和生活——幸运的是我们还有韶光来掌握着它的发展
