自动化噩梦:哲学家警告我们正在创造一个没有意识的世界

最近,由Life Institute的未来主持了一次诱人的人工智能会议,标题为“超级智能:科学还是小说?”

最近,一场人工智能会议是诱人的标题为“超级智能:科学还是小说?”,由生活学院的未来主持,该学院的未来致力于促进“对未来的乐观愿景”。

会议对各种专家提出了一系列意见,包括特斯拉汽车和SpaceX的Elon Musk,未来主义者Ray Kurzweil,Google Deepmind的Demis Hassabis,Neuroscientist,Neuroscientist,作者Sam Harris,哲学家Nick Bostrom,哲​​学家和认知科学家David David Chalmers,Skype联合创始人Jaan Tallinn以及计算机科学家Stuart Russell和Bart Selman。讨论是由麻省理工学院宇宙学家Max Tegmark领导的。

对话的主题集中在人造超智能的未来利益和风险上,每个人通常都同意,AI成为我们生活中最重要的只是时间问题。最终,随后的风险和转变,AI将超越人类的智能。一方面,埃隆·马斯克(Elon Musk)认为,考虑到我们每天依赖的所有技术扩展,这是我们已经在机器人已经依赖的所有技术扩展,这是毫无意义的。

澳大利亚哲学家和认知科学家戴维·查尔默斯(David Chalmers)的担忧正在创造一个没有意识的世界。他认为对未来的上电视的讨论经常假定最终AIS会变得有意识。但是,如果我们创造完全人为的人类的这种科幻可能性不会实现呢?取而代之的是,我们可能正在创造一个拥有人工智能而不是实际意识的世界。

大卫·查默斯(David Chalmers)讲话。信用:生命研究所的未来。

Chalmers描述了这一愿景(从下面的YouTube视频开始22:27):“对我来说,提高了将来发生巨大失败模式的可能性,我们创建了人类或超级人类或超级人类级别的AGI的可能性全世界都有超级人类水平的阿吉斯(Agis),他们都没有意识。那将是一个世界,有可能是一个伟大的智慧世界,根本没有任何主观经验。现在,我认为许多有各种各样的观点的人认为,基本上是主观的经验或意识,才能在生活中具有任何意义或价值。因此,没有意识的世界不可能取得积极的结果。也许这不是一个很大的负面结果,这只是0的结果,并且是最糟糕的结果。”

查默斯(Chalmers)以他在心理哲学上的工作而闻名,并特别研究了意识的本质。他著名地提出了他在1995年的论文“面对意识问题”中描述的“棘手意识问题”的想法,因为“为什么完全存在感官信息意识的感觉?”

他解决了这个没有意识的AI-RUN世界问题?创造一个具有人类意识的AI世界:

“我的意思是,鉴于我们不了解意识,我们没有完整的意识理论,我们应该至少考虑在那里做的一件事,也许当意识与意识类似时,我们可能会对意识充满信心我们知道最好的人类意识,因此,也许有一个必须建立类似人类的Agi,以便我们可以最大程度地确信意识,” Chalmers说: :51)。通过使我们的明确目标充分重现我们的所有人类特征,我们也许能够避免机器的无情世界成为我们的命运。我们可以考虑的警告和一个值得考虑的目标。然而,从查尔默斯的话语中听起来很像我们不了解意识,也许这是一个注定要失败的目标。

请在此处查看出色的会议:

封面照片:

在2013年11月18日,在英格兰中部牛津的Cowley游览中,准备生产新的Mini Cooper。

原创文章,作者:乐观兔,如若转载,请注明出处:http://www.dsonekey.com/3519.html

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息