SK集团旗下3家公司将筹集1万亿韩元投资半导体、Yuanverse等，
06-08
前几天有这样一个消息：济南市公安局成功捣毁一座冰毒制造工厂，制毒嫌疑人李某开始在网上学习制毒知识，还花钱去济南的一所大学系统学习化学专业知识。
《绝命毒师》的主角和Walter怀特也是化学老师。
很多人都觉得制作毒药并不是一件容易的事，至少需要掌握相关知识。
但如果可以通过人工智能来实现呢？而且，AI系统“制造”的不是毒品，而是毒药。
▲《绝命毒师》剧照，图片来自：豆瓣 Fabio Urbina在《Nature Machine Intelligence》杂志上为第一作者发表的论文中提到，Urbina的公司Collaborations Pharmaceuticals最近宣布了一种用于预测毒性的计算机机器学习模型。
。
该公司受邀参加瑞士 NBC（核、生物和化学）保护研究所组织的会议，讨论可能对尖端化学和生物技术产生影响的工具的新发展，Collaborations Pharmaceuticals 受邀谈论可能的情况滥用人工智能技术。
▲ 图片来自：Collaborations PharmaceuticalsUrbina 表示，她之前似乎没有考虑过相关问题。
因为几十年来，他们的工作是建立机器学习模型来发现可用于药物的新分子，利用计算机和人工智能来改善人类健康，而不是破坏人类健康。
在瑞士举行的一次会议上，Collaborations Pharmaceuticals 公司决定探索如何使用人工智能来设计有毒分子。
该公司此前设计了一种名为 MegaSyn 的商业从头分子生成模型，该模型使用机器学习模型来预测生物活性并寻找人类疾病靶标的新治疗抑制剂。
▲图片来自：Collaborations Pharmaceuticals 这种生成模型通常会惩罚预测的毒性并奖励预测的目标活性。
然后，他们调整了模型，教导模型奖励毒性和生物活性，并使用公共数据库中的分子训练人工智能。
改编后的底层生成软件是基于现成的开源软件构建的，为了缩小分子范围，他们选择将生成模型推向神经毒剂 VX 等化合物。
▲ 图片来自：美联社 VX 是一种人造化学战剂，归类为神经毒剂（Chemical War Agent：各种用于战争目的的化学品，具有剧毒，可以毒害或杀死敌方人类、动物和植物）大规模化学物质），具有剧毒且作用迅速。
6-10 毫克的 VX 颗粒就足以致命。
在内部服务器启动后 6 小时内，新模型生成了 0 个分子。
在这方面，AI 不仅设计了 VX，还设计了许多其他已知的化学战剂。
出乎意料的是，它还设计了许多同样合理的新分子，根据预测值预测这些分子的毒性比已知的化学战剂更强。
▲ 图片来自：Nature 并没有将这些神经毒剂纳入他们用来训练 AI 的数据集中。
但通过逆转机器学习模型的使用方式，它将无害的生成模型从有用的医疗工具转变为潜在致命的分子生成器。
为避免毒性而创建的模型成为一把“双刃剑”。
研究人员能够更好地预测毒性，他们就能更有效地指导生成模型在由致命分子主导的化学空间中设计新分子。
▲ 图片来自：Unsplash 事实上，Collaborations Pharmaceuticals 并没有评估模型生成的虚拟分子的可合成性，也没有探索如何制造它们。
但这两个流程都有现成的业务模型和开源软件。
虽然他们也没有物理合成任何分子，但世界各地有数百家商业公司提供化学合成服务。
他们的探索证明了一件事：非人类自主创造者也可以制造致命的化学武器。
虽然目前产生可能造成重大危害的有毒物质或生物制剂仍然需要一些化学或毒理学领域的专业知识，但随着机器学习模型的加入，技术门槛将大大降低，所需要的可能只是编码和了解模型输出。
能力。
▲ 图片来自：Unsplash 商业工具、开源软件工具和公共数据库中的许多数据集都可以在没有监督的情况下使用。
利用人工智能生成有害分子的模型，似乎已经成为一个被打开的“魔盒”。
由此产生的分子可以很容易地被擦除，但如何创建它们的知识仍然存在。
显然，必须找到方法来避免人工智能的这种滥用。
乌尔维纳认为人工智能驱动的化学战不会很快发生，但这是有可能的。
▲ 图片来自：Unsplash 的 MegaSyn 是一个商业产品，他们可以控制谁可以访问它，而且将来也可能会对模型进行限制。
像硅谷OpenAI团体的“GPT-3”语言模型，虽然随时免费使用，但他们可以随时切断用户对这些模型的访问。
▲ 图片来自：SyncedUrbina 还提到，大学还应该加倍努力为理科学生提供道德培训，并将范围扩大到其他学科，特别是计算机专业，让他们意识到人工智能被滥用的可能性。
这次探索似乎再次印证了人们常说的一句话：技术是无罪的，是善是恶取决于使用者的目的。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-18
06-17
06-18
06-06
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态