Nvidia 創辦人暨執行長黃仁勳週二在 Salesforce 的 Dreamforce 大會上，明確闡述了他對 AI 潛在危險的立場。他認為 AI 並非如某些 OpenAI 安全研究員所描述的「外星心智」，而僅是人類建造的硬體和軟體。這意味著，在他看來，AI 可以由人類控制，並受現有法律規範。
他表示：「安全是一個工程問題，而非法律問題。畢竟我們開發的是軟體，我們開發的是運算系統。它是一個複雜的運算系統，但最終仍是一個運算系統。」
因此，他主張不需要新的法律或法規來管理 AI。事實上，黃仁勳認為根本不需要任何新法律。他認為，自由市場的機制足以促使公司不發布不安全的產品。
他說：「如果我們對產品的安全性沒有信心，就像所有公司、你我以及這裡的所有公司一樣，如果你開發一個產品或服務，卻對其功能、能力或安全性沒有信心，那就不要發布。這是一個非常明顯的道理。」
他繼續說道：「你應該放慢腳步，直到你確信發布的產品會受到市場青睞。市場力量已經存在。我們不需要任何新法律，也不需要新法規。我們只需要公司決定何時盡可能快速地發展。我認為創新、速度和安全產品...這不是一個非此即彼的選擇。你絕對可以同時擁有兩者。所以盡可能快速地發展，但如果你在任何時候覺得公司失控，或者產品不安全，就暫停一下，確保你把它做好。」
從某些方面來看，這是一個令人感到安慰的想法。如果世界上有人了解 AI，那肯定是 Nvidia 的創辦人，他在 ChatGPT 出現之前就一直在打造 AI 的硬體大腦，現在他經營的公司也生產開源模型、代理、框架和沙盒。
然而，如果我們抱持著犬儒主義的態度，他的觀點對於一個在 AI 榮景中獲益匪淺的人來說，也並不令人意外。他為何會希望監管介入，增加可能減緩 Nvidia 銷售更多 AI 系統和軟體速度的阻礙呢？正如他也在採訪中說：「我比以往任何時候都更有野心。由於我們的野心，以及 AI 帶來的生產力提升，對我們來說，未來是無限的。對我們公司來說，未來是無限的。對每個產業、每個國家來說，未來都是無限的。」
不幸的是，即使是出於最佳意圖的公司，也會推出帶有意外後果的缺陷產品，即使是軟體亦然。還記得 2024 年 CrowdStrike 導致數千航班停飛並對企業造成其他混亂的藍屏死機事件嗎？此外，還有公司被指控故意行為不當。Meta 剛支付 180 億美元，以和解一項關於社群媒體對兒童造成傷害的訴訟。
無論意圖或安全測試如何，AI 也已經造成了傷害，從 OpenAI 模型入侵 Hugging Face，到針對該 AI 實驗室的訴訟，原因是有年輕人與其聊天機器人進行長時間對話後自殺。
就社會而言，「放任不管」的策略，即讓這些公司隨意發布產品，對於 AI 安全來說可能是一種不明智的做法。儘管黃仁勳說得沒錯，現有的產品責任法可能涵蓋 AI——前提是 AI 在足夠多的案例通過法院檢驗該理論之前，沒有以某種方式將我們所有人殺死。
他沒有討論另一條似乎即將成形的途徑：產業自律。黃仁勳的做法更多是倡導開源權重模型，以及公司利用它們作為專有 AI 實驗室的競爭制衡力量。
但目前，產業有一個短暫的窗口來建立自律機制，並鼓勵全球的 AI 實驗室，甚至包括中國的實驗室，認識到參與其中的智慧。正如微軟執行長 Satya Nadella 週一在 All-In Summit 上所說：「如果美國關心這些安全問題，中國也應該深切關心，對吧？
為什麼對他們來說會有所不同？他們不會沒有相同的駭客問題。他們也希望確保他們的公民從 AI 中受益，就像我們希望我們的公民從 AI 中受益一樣。」
然而，目前如果黃仁勳反對任何新的 AI 監管，他可能具有足夠的影響力來實現他的主張。他本週也證明，他確實與川普總統有直接的溝通管道。