自己的思想:“将军AI”会像外星人的入侵吗?

外星物种正朝着地球前进。许多专家预测,它将在20年内到达这里,而另一些专家则认为这可能需要更长的时间。无论哪种方式,毫无疑问它将到达

外星物种正朝着地球前进。许多专家预测,它将在20年内到达这里,而另一些专家则认为这可能需要更长的时间。无论哪种方式,毫无疑问,它将在本世纪熄灭之前到达,我们人类没有理由相信它会很友好。

虽然我无法确切说出它的外观,但我相信它几乎在各种方面都会与我们不同,从生理学和形态到其心理学和社会学。尽管如此,我们仍将迅速确定它与我们的人类分享了两个关键特征:意识和自我意识。尽管我们可能会拒绝承认这一点,但我们最终将得出结论,它比我们中最聪明的人更聪明。

不,这个外星不会来自幻想的船上的遥远星球。取而代之的是,它将出生在地球上,并在一家著名大学或跨国公司资金资助的研究实验室中孵化。我指的是第一个通用人工智能(AGI),以展示超出我们自己的思维能力。

我知道 – 有些科学家认为Agi不会世代相传,而另一些科学家认为这可能是无法实现的。话虽如此,研究人员在过去的十年中多次对大量的AI专家进行了调查,并且将近一半的人始终预测AGI将在2060年之前发生。而且,随着每年的AI领域进步速度,AI领域的速度都超出了行业的预期。

就在本月,DeepMind透露了一个名为AlphaCode的AI引擎,该引擎可以以超过人类程序员54%的技能水平编写原始软件。这不是AGI,但是这使该行业感到惊讶,因为很少有人期望这样的里程碑很快就能达到这一里程碑。

因此,我们在这里 – 在AI技术的前进速度比预期快,数十亿美元直接投资于AGI研究的时候。在这种情况下,似乎是合理的,假设人类会在不远的未来在地球上创造出一种外国情报。

第一个AGI将被誉为一个非凡的创造,但这也将是一个危险的新生活形式:一种体贴和故意的智慧,并不是最少有的人。就像我们遇到过的每个聪明生物一样,从最简单的昆虫到最强大的鲸鱼,它将做出决定并采取行动,使自己的自身利益首先。但是,与昆虫和鲸鱼不同,这个新的到来将竞争填补我们人类在智力食物链顶部所占据的同样的利基市场。

是的,我们将创建一个竞争对手,但我们可能不会立即认识到危险。实际上,我们人类很可能会以压倒性的自豪感来看我们的超级智慧创造,这是录制历史上最伟大的里程碑之一。有些人将其与获得能够从头开始创造思维和感觉的神灵的能力相比。

但是很快,我们会意识到这些新来者有自己的思想。他们一定会利用自己的智力来追求自己的目标和愿望,这是由自己的需求和需求驱动的。他们不太可能是邪恶的或虐待狂的,但是他们的行为肯定会受到自己的价值观,道德和敏感性的指导,这与我们无关。

许多人错误地认为,我们将通过自己的形象构建AI系统,设计这些技术来解决这个问题,从而设计和感觉和行为就像我们一样。这种情况不太可能。人工思维不会通过编写精心制作的规则来创建使它们像我们一样行事的软件。取而代之的是,工程师将把大量的数据集馈入简单的算法中,这些算法会自动调整自己的参数,从而使其结构的数百万个微小的变化构成数百万个,直到智力出现为止 – 这种内在工作对我们来说太复杂了,无法理解。

否:喂养有关人类的数据不会使它思考和感觉像我们一样。这是一个普遍的误解 – 错误的信念是,通过对描述人类行为的数据训练AI,我们将确保最终像我们一样思考和感觉。它不会。

取而代之的是,我们将建立这些AI生物,以了解人类,而不是成为人类。他们将在内外了解我们,能够说我们的语言并解释我们的手势,阅读我们的面部表情并预测我们的行为。他们会知道是什么让我们生气,快乐,沮丧和好奇。他们将了解我们人类如何做出好事,不良,逻辑和不合逻辑。毕竟,我们将花几十年的时间教他们我们的行为和反应。

但是,他们的思想仍然不像我们。尽管我们有两只眼睛和两只耳朵,但它们将具有神般的感知能力,并在各个地方远程连接到各种传感器,直到它们对我们来说几乎无所不知。在我2020年有关此主题的图画书中,我描绘了我们创建的第一个AGI,它们是“具有十亿只眼睛和耳朵”,因为它将立即访问来自世界各地的数据。我没有指出的是,我们仍然会通过一个看起来非常人性化的身体与这个外星人互动,两只眼睛,两只耳朵和一个微笑的脸。考虑到这一点,我们将赋予它这种外观。我们甚至会教它来模仿我们的感受,表达了诸如“幼犬很可爱”和“生命是宝贵”之类的情感,不是因为它一定会分享这些类似人类的感觉,而是因为它会熟练地使自己变得人性化。 。

结果,我们不会害怕这些外星人,而不是我们害怕神秘的星际飞船向我们迈进的方式。我们甚至可能会感到亲戚感,将这些外星人视为我们自己创造力的分支。但是,如果我们将这些感觉抛在一边,我们开始意识到,这里出生的外星情报可能比远方的情报更危险。

毕竟,我们在这里建立的外星人将从他们到达的那一刻起就知道我们的一切,对我们的需求,需求和动力进行了训练,并能够感知我们的情绪,预测我们的反应并影响我们的观点。如果一个朝我们朝着飞碟的物种具有这样的能力,我们将感到恐惧。

AI已经可以在地球上最艰难的比赛中击败我们最好的球员。但实际上,这些系统不仅掌握了国际象棋,扑克和Go的游戏。他们还掌握了人类游戏,学会预测我们的行为并利用我们的弱点。世界各地的研究人员正在培训AI系统以超越我们,超越我们的方式,并超越我们,但至少我们不必担心我们与他们之间的身体斗争。那是因为我们甚至在他们出现之前就投降了对我们的世界的控制权。我们已经开始将关键基础设施移交给AI系统,从通信网络和电网到水和食品供应。随着人类在模拟的“元角度”中花费越来越多的时间的过渡,我们将变得更容易受到AI技术操纵的影响。

不幸的是,我们无法阻止AI变得更加强大,因为从未纳入任何创新。尽管许多研究人员正在研究保障措施,但我们不能认为这会消除威胁。实际上,皮尤研究最近的一项民意调查表明,很少有专业人员认为该行业将在2030年之前实施“道德AI”实践。

我们应该如何准备?

我相信最好的第一步是让公众接受AGI可能会在不久的将来发生,这将不是人类思想的数字版本,而是更陌生的东西。如果我们以这种方式想到威胁,将其描绘成一艘将在20或30年内拦截地球的船队,那么我们可能会更加紧迫。

对我来说,这种紧迫性意味着推动旨在监视和操纵公众的AI系统的调节。如今,这种技术似乎并不像是存在的威胁,因为目前它们正在用于AI广告而不是世界统治。但是,尽管如此,以摇摆我们的信念的目的是跟踪我们的情感,行为和情感的AI技术仍然非常危险。其他关注的领域是激进的动力,以自动化人工决策。虽然不可否认的是AI可以大力帮助有效的决策,但我们应该始终将人类保持在循环中。正如我在几年前关于该主题的TEDX演讲中所描述的那样,我坚信研究人员应该更多地专注于使用AI来协助和增强人类智能,而不是努力取代它。

在过去的八年中,这一直是我的重点,研究表明这是一个富有成果的方向。例如,与斯坦福医学院合作发表的一项研究表明,我们可以使用AI将小组的医生连接到“超级专家”中,这些医生可以使诊断的错误少得多。在联合国使用该技术的许多应用程序中,我们已经看到了类似的好处,以预测饥荒,以及做出更明智的预测和估计的业务团队。

原创文章,作者:点数网,如若转载,请注明出处:http://www.dsonekey.com/2924.html

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息