随着机器学习的进步，我们对人工智能的一大希望是，我们将能够将其用于药物发现——利用算法的模式匹配能力，比人类科学家独自一人更快、更便宜地识别有前途的候选药物。

但我们可能要谨慎行事:任何强大和准确到足以识别对人类安全的药物的系统，本质上也会擅长识别对人类极其危险的药物。

这就是从一篇新论文自然机器智能作者:Fabio Urbina, Filippa Lentzos, Cédric Invernizzi和Sean Ekins。他们采用了一个他们训练过的寻找无毒药物的机器学习模型，并改变了它的指令，让它转而尝试寻找有毒化合物。在不到六个小时的时间里，该系统识别出了数万种危险化合物，包括一些与VX神经毒气非常相似的化合物。

他们的论文正好提到了我的三个兴趣点，在阅读这样令人担忧的新闻时，这些都是必须牢记在心的。

首先是越来越重要的“两用”的担忧在科学研究中。生物学是21世纪最令人兴奋的创新之所在正在发生的。并不断创新，尤其在广谱疫苗和治疗这对于拯救生命和防止未来的灾难至关重要。

但是，那些使DNA测序更快、更容易打印，或使药物研发更便宜，或帮助我们更容易地识别出符合我们要求的化合物的工具，同时也使造成可怕伤害的工具变得更便宜、更容易。这就是“军民两用”问题。

这里有一个生物学上的例子:腺病毒载体疫苗，比如强生公司的Covid-19疫苗，它的工作原理是采用一种常见的温和病毒(腺病毒通常会导致普通感冒等感染)，对其进行编辑，使病毒不能让你生病，然后改变病毒的遗传密码，用Covid-19刺突蛋白取代它，这样你的免疫系统就能学会识别它。

阅读Vox网站Kelsey Piper关于军民两用问题的完整文章。