2017年，北朝鲜领导人金正恩的同父异母兄弟在吉隆坡机场被VX中毒。VX是一种神经剂，可诱导肌肉无法控制的夹紧，使得VI
2017年，北朝鲜领导人金正恩的同父异母兄弟在吉隆坡机场被VX中毒。 VX是一种神经毒剂，可引起无法控制的肌肉夹紧，使受害者无法呼吸，在几分钟或几个小时内导致死亡。
朝鲜并不是唯一一个已知使用或使用VX等致命化学物质的国家。但是，如果您认为设计化学战代理需要一个民族国家的基础设施和研究能力，那么您会感到震惊。
Spiez实验室 – 一家瑞士研究所，监视核，生物学和化学武器的威胁 – 组织了两年一次的会议，探索新的化学和生物学技术，可能会在恶意参与者的手中构成安全风险。
去年，会议的参与者之一是合作制药公司，这是一家美国的制药公司，被要求讨论如何滥用基于AI的药物发现的技术。
他们表明，通过一些调整，他们的AI模型可以重新使用以与创造的相反 – 而不是发现新的治疗方法，而是可以创建数千种全新的化学武器。
设计化学战代理不需要民族国家的基础设施和研究能力
穿越化学空间
可以互相链接的潜在元素的潜在方式是无穷无尽的。
化学空间 – 所有可能化学物质的整个宇宙的理论表示，包括10180种化合物，远大于宇宙中的原子数（1080）。
像物理宇宙一样，它是稀疏的 – 大多数理论配置实际上是不可能的。但是，人工智能算法现在正在为化学空间中可以实现的目标打开窗口。尽管如此，即使AI，穿越整个化学空间也是发现新化学品的一种效率低下的方法。大多数潜在化学物质将高度不稳定，难以合成，缺乏所需的特性或具有不良特性。
这就是为什么计算化学家在其AI算法中添加限制以找到他们想要更快的东西的原因。
可以将元素链接在一起的方式是无限的。
这些约束是由其应用的性质定义的。例如，药物设计团队将优化其算法，以寻找具有引起特定反应的化学物质，例如与受体结合或抑制双重分子反应，同时对身体没有毒性。
一方面，协作药物使用机器学习模型来避免可能引起不同种类的有毒反应的分子。
在您的终端上设计化学武器
在工作中，该公司在Spiez会议上介绍了现在在《自然机器智能》上发表的Spiez会议，他们倒了机器学习模型的逻辑。
他们没有筛选出有毒化学物质，而是对模型进行了调整以积极选择它们。在不到6个小时的服务器上运行时，其重新配置的AI模型不仅设计了VX，还设计了40,000个类似的分子，包括公开可用的结构和完全新颖的结构。其中许多比公开知名的化学武器更具毒性。
参与该研究的研究人员指出，他们“将我们无害的生成模型从有用的医学工具转变为可能致命分子的发生者。”这个小实验的最令人震惊的收获是执行的容易。设计具有所需特性的化学品的进入障碍远低于以往。尽管化学知识仍然有所帮助，但仅当计算机进行繁重时，它才是补充（至少在该过程的设计部分）。
合作制药只是数百或数千家公司之一，具有设计这样的化学物质的能力。借助开源模型和公开访问的毒性数据库，有意图和计算资源的任何人都可以轻松复制此实验。
AI设计的许多化合物比公开知名的化学武器更具毒性。
在化合物的宇宙中，潜在的毒性分子比我们已经知道的要多得多。有了毒性预测模型中的一些调整，例如在这项研究中的方式，可以访问这些模型。
除了设计之外，云制造使具有计算机和互联网连接的任何人都可以访问设计器化学品的合成。
生成模型的双重使用潜力
评论员经常警告人工智能的风险。但是，有关AI双重使用的大多数讨论都集中在数据安全，隐私，歧视性算法等上。滥用生成模型创建化学或生物武器的潜力必须使我们谈论AI构成的国家和国际安全风险。
作者强调了讽刺的是，GPT-3是一种可以撰写病毒博客文章的生成模型，它带有一种无敏感语言的过滤器，但是毒性或化学目标建模算法无需任何护栏。制药公司并不是唯一开发用于化学发现和设计的AI模型的公司。材料，农产品甚至食品公司都在使用生成化学反应，所有这些都没有考虑到这些AI模型被滥用的潜力。如果不良的演员使用这些模型来设计高功效的化学武器，或者更糟的是，请使用他们，这可能与我们以前见过的任何化学攻击不同。这样的事件也可能损害AI的声誉，从而通过排除资金出身并限制其做好事的能力，从而造成进一步的损害 – 设计新，更安全，更好的药物和材料。从事基于AI的生成模型的公司和研究人员需要主动提出检查和对策，以使人类和他们自己更好。
本文最初由我们的姊妹网站Freethink发表。
原创文章，作者：新知会，如若转载，请注明出处：http://www.dsonekey.com/2892.html
