谷歌放棄“不開發(fā)武器AI”承諾引爭議，前高管吳恩達表示支持

2 月 8 日消息，谷歌近期刪除了其 AI 原則中關(guān)于“不開發(fā)用于武器的 AI 系統(tǒng)”的承諾，這一決定引發(fā)了廣泛爭議。谷歌大腦（Google Brain）的創(chuàng)始人兼前負責(zé)人吳恩達（Andrew Ng）在舊金山的軍事老兵 創(chuàng)業(yè) 大會上公開表示支持谷歌的這一決定。

“我很高興谷歌改變了立場，”周四晚上在大會上接受 TechCrunch 的臺上采訪時，吳恩達說。

在本周早些時候，谷歌從其 AI 原則網(wǎng)頁中刪除了這一 7 年前的承諾。與此同時，谷歌發(fā)布了一篇由 DeepMind 首席執(zhí)行官德米斯?哈薩比斯（Demis Hassabis）撰寫的博客文章，強調(diào)公司和政府應(yīng)攜手打造能夠“支持國家安全”的 AI 系統(tǒng)。

谷歌在 2018 年做出“不開發(fā)武器 AI”的承諾，是由于當(dāng)時公司內(nèi)部數(shù)千名員工對“Maven 項目”（與美國軍方的合作項目）的抗議。該項目涉及為軍事項目提供 AI 技術(shù)，用于解析視頻圖像，可能用于提高無人機打擊的準確性。然而，吳恩達對當(dāng)時的抗議者表示不解。他在大會上表示：“許多老兵們愿意為國家流血犧牲，保護我們，那么美國公司怎么能拒絕幫助那些為我們而戰(zhàn)的軍人呢？”盡管吳恩達在 Maven 項目抗議期間并未在谷歌任職，但他曾是谷歌 AI 和神經(jīng)網(wǎng)絡(luò)領(lǐng)域的重要推動者。如今，他領(lǐng)導(dǎo)著一家專注于 AI 的風(fēng)險工作室和 AI 基金，并經(jīng)常就 AI 政策發(fā)表觀點。

吳恩達還曾表示，他很高興看到加州 SB 1047 法案被否決以及拜登政府的 AI 行政令被推翻，因為他認為這兩項措施會阻礙美國開源 AI 的發(fā)展。他認為，美國 AI 安全的關(guān)鍵在于確保美國在技術(shù)上能夠與中國競爭，他還指出 AI 無人機將“徹底改變戰(zhàn)場”。

IT之家注意到，谷歌內(nèi)部對于 AI 在軍事中的應(yīng)用一直存在分歧。谷歌前 AI 研究員、現(xiàn) Signal 公司總裁梅雷迪思?惠特克（Meredith Whittaker）曾在 2018 年領(lǐng)導(dǎo)了 Maven 項目的抗議活動。當(dāng)時谷歌決定不再續(xù)簽 Maven 項目合同時，她表示支持，認為公司“不應(yīng)涉足戰(zhàn)爭”。此外，谷歌前 AI 研究員、諾貝爾獎得主杰弗里?辛頓（Geoffrey Hinton）也曾呼吁全球政府禁止和監(jiān)管 AI 在武器中的使用。谷歌資深高管、現(xiàn) DeepMind 首席科學(xué)家杰夫?迪恩（Jeff Dean）也曾簽署反對將機器學(xué)習(xí)用于自動化武器的公開信。

近年來，谷歌和亞馬遜因與以色列政府的“Nimbus 項目”合同而受到新的審查。該項目涉及為以色列國防軍提供云計算服務(wù)。去年，兩家公司的員工曾組織靜坐抗議活動，反對這一合作。

美國國防部首席 AI 官員此前曾表示，全球各國的軍方對使用 AI 的興趣日益濃厚。隨著谷歌、亞馬遜、微軟等 科技 巨頭在 AI 基礎(chǔ)設(shè)施上投入數(shù)千億美元，許多公司希望通過與軍方合作來收回 投資 。

【來源： IT之家】