甚至AI创造者也不了解AI的复杂性

对于Eons来说,上帝一直是“我们不了解的事物”的备用。曾经是创新的研究人员或修补炼金术士,人类都可以利用CHE的力量

对于Eons来说,上帝一直是“我们不了解的事物”的备用。曾经是一位创新的研究人员或修补炼金术士,人类涉及奇迹背后的科学,利用化学,生物学或计算机科学的力量。神的干预消失了。我们替换在控件处的神灵修补。

蓬勃发展的人工智能行业正在有效地在相同的原则下运作。即使人类创建了导致我们的机器运行的算法,但许多科学家都不清楚其代码为什么起作用。讨论这种“黑匣子”方法,骑士会报告:

运行这些服务的计算机已经对自己进行了编程,并且他们以我们无法理解的方式进行了编程。即使是构建这些应用程序的工程师也无法完全解释其行为。

“深度学习”的过程 – 在机器中通常以无监督的方式提取信息来教学和改变自己 – 探讨了一个长期存在的人类悖论:我们相信自己拥有自由意志,但实际上我们是一种习惯习惯 – 绩效动物反复发挥自己的模式。然后,我们的机器从观察我们的习惯中教会自己。我们会在机器中重新创建自己的流程是有道理的,这是我们有意识或不自觉的。这是我们首先创造神的方式,灌输了我们的本质。但是还有一个问题。

我们物种的定义特征之一是共同努力的能力。包装动物并不罕见,但没有一个人形成网络,并将他人信任到我们所拥有的程度上,取得了进化的成功,而事实证明,我们的损害。

当我们对算法信仰时,我们不了解的是自治的汽车,股票交易,教育政策,癌症筛查 – 我们冒着自主权的风险,以及使我们变得人性化的更高的认知和情感素质,例如同情心,移情和利他主义。不能保证我们的机器会学习任何这些特征。实际上,他们很有可能不会。 [我们。空军弹药团队成员在波斯湾地区的一个基地展示了500磅的炸弹。约翰·摩尔(John Moore)/盖蒂(Getty Images)的照片]

这具有真实的含义。检测到癌细胞的算法是否会意识到它不需要破坏宿主来消除肿瘤?自主无人机会意识到它不需要摧毁一个村庄即可夺走一个恐怖分子吗?我们想假设专家的道德将道德纳入方程式,但是当机器自学时,就无法保证这种情况。

当然,定义术语至关重要,这项任务在讨论意识的细微差别时已被证明是不可能的,这实际上是我们试图与机器相同的力量。神学家和二元论者提供的定义与神经科学家的定义差异很大。在这些类别中,争吵仍然存在。大多数神经科学家都同意,意识是一种新兴现象,是许多不同系统结合起来的结果,没有单一的“意识基因”引起了指控。

一旦科学摆脱了帕夫洛维亚链,使我们相信动物自动奔跑(显然暗示人类不这样做),重点转移到动物是“ on”还是“”’中。 ;他们认为自己与环境分开。他们了解“我”的存在。如果不超过开关,什么?丹尼尔·丹尼特(Daniel Dennett)争论了这一点数十年。他认为,根据人类定义来判断其他动物是不公平的。他说,如果狮子可以说话,那将不是狮子。人类会从模仿我们的思维过程的异常中了解狮子的知识。但这并不意味着狮子没有意识?他们的意识程度可能与人类不同,或者说,在丹内特的术语中,“有点”具有意识。

如果我们只识别机器人引擎盖下的“一种”智能,我们将创建哪种类型的机器?一个多世纪以来,反乌托邦小说家设想了我们的机器最好的未来。这不再是未来的情况。考虑以下可能性。

4月7日,达拉斯的156台紧急天气警报器中的每一个都被触发。在90分钟的时间里,该地区的130万居民一直想知道龙卷风来自哪里。只有龙卷风。这是一个黑客。虽然官员最初认为这不是遥远的,但事实证明,这是一个旧学校的拨号音调。通过将正确的频率散发到大气中,黑客控制了主要城市基础设施不可或缺的组成部分。

当黑客覆盖自动驾驶汽车网络时会发生什么?或者,更危险的是,当机器自己做的时候?消费者对电话应用程序背后的算法一无所知的危险导致了各种隐私问题,公司开采和销售数据而没有意识。当应用程序创建者也不了解其算法时,危险是不可预见的。就像丹尼特的谈话狮子一样,这是我们无法理解的一种智力形式,因此无法预测后果。正如丹内特(Dennett)总结的那样:我认为,如果我们要使用这些东西并依靠它们,那么让我们坚定地对他们的方式和为什么给我们答案。如果它不能比我们解释它在做什么更好,那就不要相信它。

数学家塞缪尔·阿布斯曼(Samuel Arbesman)称这个问题是我们的“纠缠年龄”。正如神经科学家无法就能产生意识的哪些机制达成共识一样,人工智能背后的编码人员也无法辨别深度学习的旧组成部分和更新的组成部分。在未能解决以前的疾病的同时,不断的新功能的层次分层有可能引起严重的误解,就像一个成年人被虐待的孩子,拒绝认识到当前的关系问题。由于没有精神分析或将其注入AI的道德将永远无法纠正。但是,当它们与他们所在的文化和时间相对时,您甚至可以注入道德吗?他们会成为美国的道德或朝鲜道德吗?

像丹内特一样,阿布斯曼对我们的魔法技术也提出了耐心。质疑我们的好奇心是一条更安全的前进道路,而不是奖励“它只是有效”的心态。当然,这些技术利用了另外两种人类倾向:新颖的偏见和分心。我们的机器减少了我们的身体和认知工作量,就像Google已成为可以袖珍的记忆更换一样。要求重返人类1.0品质(perience,纪律,节制)与机器人时代相反。由于无法与这种新兴物种进行交流,我们可能永远不会意识到翻译中已经丢失了什么。也许我们的机器人会以我们对大自然的同样奇怪的迷恋来看着我们,以神秘的方式定义我们,直到他们也创造自己的物种。声称这将是一个优势,那就是真正不了解我们玩具的破坏性潜力。

德里克(Derek)的下一本书《整体动议:训练大脑和身体以达到最佳健康状况》将于17年7月4日出版,由Carrel/Skyhorse出版社出版。他居住在洛杉矶。在Facebook和Twitter上保持联系。

原创文章,作者:生活会,如若转载,请注明出处:http://www.dsonekey.com/3495.html

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息