“它变成了神”

让我们面对现实,人工智能无处不在。在各种业务应用的广告中,室内。Google DeepMind和IBM项目。跨T的无数研究系

面对现实,人工智能无处不在。

户外有各种业务应用程序的广告。 Google的DeepMind和IBM项目。整个地球上大学的无数研究系。欧盟的13亿美元人类脑项目。列表还在不断。

在2012 – 2016年之间,私人和联邦政府的AI研究资金以每年约50%的速度增长。我们听到机器学习,自适应神经网和数据挖掘正在改变世界。 Google的DeepMind通过大胆的声明开放其网站:“ AI可能是人类最有用的发明之一。我们研究和建立安全的AI系统,这些系统学习如何解决问题并推进所有人的科学发现。”

如果是这样,为什么这么多人对整个事情持怀疑态度或害怕?埃隆·马斯克(Elon Musk)将AI等同于“召唤恶魔”,并创建了“我们永远无法逃脱的不朽独裁者”。斯蒂芬·霍金(Stephen Hawking)著名地宣布:“ AI可以拼写人类的终结。”

这些是非常沉重的话。人类的严重存在风险?让我们仔细看看。

首先,我们必须区分AI的类型,尤其是人工通用智能(AGI)和更简单,更现实的人工狭窄智能(ANI)。一年多以前,Tad Friend为《纽约客》(New Yorker)撰写了一篇非常有用的文章,与两者区分开来。

ANI定义了使用神经网和机器学习技术来搜索各种问题的优化解决方案的智能计算机程序。这些可以从击败国际象棋大师或危险的冠军到对充满挑战的医学诊断进行零,到改善消费者的概况,以将更具针对性的广告瞄准他/她的社交媒体。到处都是广告,提供各种解决方案,以提高公司的底线。难怪为什么像Google,Yahoo和IBM这样的大型公司正在追随ANI。当然,这主要只是商业上的炒作。机器学习方法确实导致了更高效的机器控制算法,但它们与我们认为AGI所需要的相去甚远。他们不是邪恶的独裁者被驱使灭绝无用的碳,愚蠢的人类。差远了。至少目前没有。

创意自治

当我们加强ANI以变得更加强大时,更难的问题开始了。鉴于ANI搜索自己优化的途径的许多各种程序中的许多程序中,人类程序员通常不知道他们的机器如何到达给定的结果。凯·杰(Ke Jie)是中国的大师,他在2017年输给了Google的Alphago,他在失败后总结了这一点:“去年,它在演奏时非常像人类。但是今年,它变成了一个去神的神。”

换句话说,许多ANI应用程序中的程序充当黑匣子,制定了自己的隐藏策略。负责Alphago的Google程序员对该计划如何开发自己的获胜方法,远远超出了自己的比赛能力。

去年发表的一篇论文以“数字进化的令人惊讶的创造力:来自进化计算和人工生命研究社区的轶事集合”的标题,这是令人惊奇的案例,这些案例以自己的规则在其自身的规则下以似乎模仿生物学进化的方式演变而来在自然界。这里要注意的重要点是,这些计划显然发展了某种创造性的自主权:他们以某种方式“理解”为了实现目标,他们必须违反规则并创建新规则。这些结果表明我们可以从中学到很多东西Anis。从某种意义上说,他们为我们提供了新的途径来理解各种智力甚至创造力的根源。只要他们继续执行任务并在建立良好和受控的界限内使用自己的自我触发的自主权,一切都很好。当他们的成熟程度不在执行任务之外,他们“决定”他们准备从事其他工作时就开始了争论。

可怕的问题

如果您想知道程序是否可以“决定”,那么我们已经看到他们可以,尤其是当他们开发自己的黑匣子途径以完成任务时。这意味着他们“知道”(我使用引号来提醒我们知道在这种情况下知道是一个加载的单词)哪种方法是最好的选择。如果他们因成功而“授权”(可以徒劳地授权?),他们可能会决定在其他企业中尝试运气。随着他们自适应学习神经网的发展,他们继续解决新问题并发现新的挑战,什么可以阻止它们?这就是吓到很多人的问题。

值得庆幸的是,我们不知道给定的ANI是否可以实现决策中的关键点。 ANIS的架构可能会排除这种功能的跳跃。对AGI的许多恐惧来自于拟人化技术,使计算机越来越像人类,随之而来的是所有的好处和坏处。行为(像我们一样说话和“感觉”),实际上是一种实现一种自主权,它构成了一条新的且未知的道路。对AGI的恐惧是该生物成为怪物,我们失去了对发明的力量的权力。一旦我们创建了一种真实智能的替代形式,就不会告诉这种智能是什么样的,如果有的话,它将随身携带。

一台机器背后没有数百万年的社交发展,不需要对这种发展或保护其部落。它只有一个真正的危险主张才能照顾。那些认为我们可以通过维克多·弗兰肯斯坦(Viktor Frankenstein)的训练或控制这种智能的人可能会被欺骗。我们如何渴望审查一种比我们的情报远远优越的情报?

幸运的是,我们甚至还没有开始理解这种机器会采取什么构建,或者复杂性的紧急过渡是否可以真正使ANI成为AGI。毫无疑问,来自私营部门和军事部门的专家在这一问题上工作,非常了解,即使这是一个遥远的梦想,首先控制技术的人肯定会控制世界。不幸的是,这种控制将非常短。

那不是我们想生活的世界。“它变得像神”的帖子首先出现在轨道上。

原创文章,作者:大天,如若转载,请注明出处:http://www.dsonekey.com/3333.html

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息