技術濫用警報：AI能在6小時內合成4萬種新的致命化合物

據最新一期《自然·機器智慧》刊發的論文，美國科學家發出警報，人工智慧（AI）很容易被濫用。實驗顯示，AI在被研究人員賦予任務之後，在短短6小時內就合成了40000種新的致命化學武器化合物。

據報道，北卡羅來納州羅利的生物技術創業公司Collaborations Pharmaceuticals科研團隊正在使用人工智慧尋找可用於治療疾病的化合物，其中一部分涉及過濾掉任何可能致命的化合物。

作為檢測新技術潛在負面影響的一部分，研究小組在其人工智慧演算法中 “打開了一個開關”，並讓它找到最致命的化合物。該團隊想看看，如果人工智慧演算法被設定在一個負面而非正面的任務上，它可以多麼迅速和容易地被濫用。

根據The Verge的一份報告，一旦進入“壞模式”，人工智慧就能夠發明數以千計的新化學組合，其中許多類似於今天使用的最危險的神經毒劑。

在人工智慧發明的化合物中，有一些類似於VX，一種毒性極強的神經毒劑，即使是很小的劑量也能引起抽搐。

研究人員表示，他們發現最可怕的是，利用廣泛可用的有毒化學品資料庫，並使用人工智慧來設計類似於目前最危險的化學武器是多麼容易。

論文的主要作者烏爾比納（Fabio Urbina）說：“我們使用的很多東西都是免費的，你可以從任何地方去下載一個毒性資料庫。如果有一個人知道如何用Python程式設計，並且有一些機器學習的能力，那麼可能在一個週末的工作中，他可以建立類似於這種由有毒資料庫驅動的生成模型。”

他表示，這就是讓研究團隊考慮把這篇論文公開發表原因，對於這種型別的濫用，它的進入門檻如此之低。

文/南都記者 陳林

【來源：南方都市報】

宣告：此文版權歸原作者所有，若有來源錯誤或者侵犯您的合法權益，您可透過郵箱與我們取得聯絡，我們將及時進行處理。郵箱地址：jpbl@jp。jiupainews。com