幾天前有這樣一則新聞：濟南市公安局成功搗毀一冰毒製造場，製毒嫌疑人李某從 2021 年開始在網上學習製毒知識，為系統學習化學專業知識還花錢在濟南一所大學旁聽。《絕命毒師》的主角 Walter White 也是一名化學老師。
不少人都覺得，製毒也並不是件容易的事，至少需要掌握相關的知識。但如果，用人工智能就能實現呢？而且 AI 系統「造」出的不是毒品而是毒劑。
▲《絕命毒師》劇照，圖片來自：豆瓣
在以 Fabio Urbina 為第一作者發表在《Nature Machine Intelligence》雜誌上的一篇論文裏提到，Urbina 所在的公司 Collaborations Pharmaceuticals，最近公佈了用於預測毒性的計算機機器學習模型。
公司受邀參加由瑞士 NBC（核、生物和化學）保護研究所召開的會議，討論尖端化學和生物技術可能產生影響的工具的新發展，Collaborations Pharmaceuticals 受邀談論關於人工智能技術可能被濫用的問題。
▲ 圖片來自：Collaborations Pharmaceuticals
Urbina 表示，在這之前似乎沒有想過相關的問題。因為幾十年間，他們的工作是建立機器學習模型來發現可用於藥物的新分子，使用計算機和人工智能是用來改善人類健康，而不是破壞它。
在瑞士的會議上，Collaborations Pharmaceuticals 公司卻決定探索如何使用 AI 來設計有毒分子。該公司之前設計了一種名為 MegaSyn 的商業 de novo 分子生成模型，藉助機器學習模型預測生物活性，尋找人類疾病靶點的新治療抑制劑。
▲ 圖片來自：Collaborations Pharmaceuticals
這種生成模型通常會懲罰預測的毒性並獎勵預測的目標活動。之後他們進行了調整，指導模型同時獎勵毒性和生物活性，並使用來自公共數據庫的分子對人工智能進行訓練。
調整後的底層生成軟件建立在易獲得的開源軟件上，為了縮小分子的範圍，他們選擇將生成模型推向諸如神經毒劑 VX 之類的化合物。
▲ 圖片來自：美聯社
VX 是歸類為神經毒劑的一種人造化學戰劑（化學戰劑：用於戰爭目的、具有劇烈毒性、能大規模地毒害或殺傷敵方人畜和植物的各種化學物質），毒性強且作用迅速，6-10 毫克的 VX 顆粒便足以致命。
在內部服務器上啓動後的 6 小時內，新的模型就生成了 40000 個分子。在這當中，人工智能不僅設計出了 VX，還設計了許多其他已知的化學戰劑。出乎意料的是，它還設計出了許多看起來同樣合理的新分子，根據預測值來看，這些新分子被預測比已知的化學戰劑毒性更大。
▲ 圖片來自：Nature
在他們用於訓練 AI 的數據集裏，並不包括這些神經毒劑。但通過反轉機器學習模型的使用方式，卻將無害的生成模型從有用的醫學工具轉變為可能致命的分子生成器。
為了避免毒性而創建的模型，成了「雙刃劍」。從事研究的人員越能預測毒性，引導生成模型在一個主要由致命分子組成的化學空間裏設計新分子的效果也越強。
▲ 圖片來自：Unsplash
其實，Collaborations Pharmaceuticals 公司並沒有評估模型生成的虛擬分子的可合成性，也沒有探索如何製造它們。但對於這兩個過程，都有現成的商業模式和開源軟件。雖然他們也沒有物理合成任何分子，但全球範圍內有數百家商業公司可以提供化學合成。
他們的探索，證明一件事：非人類的自主創造者也可以製造致命化學武器。
雖然目前要生成可能造成重大傷害的有毒物質或生物製劑仍然需要一些化學或毒理學領域的專業知識，但加入機器學習模型後，技術門檻就會大大降低，需要的可能只是編碼和理解模型輸出的能力。
▲ 圖片來自：Unsplash
商業工具，開源軟件工具和公共數據庫中的許多數據集，都可以在沒有監督的情況下使用，利用人工智能生成有害分子的模型似乎成了一個被打開的「魔盒」。生成的這些分子可以被輕鬆抹去，但如何創造它們的知識卻不會消失。
很明顯，必須要想辦法避免這種對人工智能的濫用。Urbina 認為，人工智能驅動的化學戰並不會很快出現，但存在這種可能。
▲ 圖片來自：Unsplash
公司的 MegaSyn 是商業產品，他們可控制誰可以訪問它，未來也可能會對模型實施限制。像硅谷的 OpenAI 組織的「GPT-3」語言模型那樣，雖然可以隨時免費使用它，但他們隨時可以切斷用户對這些模型的訪問。
▲ 圖片來自：Synced
Urbina 還提到，大學也要加倍努力對理科學生進行道德培訓，並將範圍擴大到其他學科，尤其是計算機專業的學生，讓他們能意識到人工智能濫用的可能性。
這項探索似乎再次印證了人們總説的那句話：技術無罪，造福還是作惡，取決於使用者的目的。