2023年9月22日

《 Meta 》Mark Zuckerberg 在人工智慧論壇上的發言

這是 Mark Zuckerberg 在 2023 年 9 月 13 日參加 AI Insight Forum 時的開場發言，由參議員舒默、朗茲、海因里希和楊主持。

備稿如下：

感謝舒默參議員召集這個小組。最近 AI 領域的許多進展都是由這個房間裡的組織推動的。毫不奇怪，美國正在進行如此多的領先工作，從基礎研究到消費者產品都有。有才華的人想在這裡建立新事物，我認為這有助於我們的全球競爭力。儘管 AI 將帶來全球進步，但我預計我們的領導地位將隨著時間的推移為美國創造出一些持久的好處。

因此，我同意國會應該參與 AI，以支持創新和保障。這是一個新興技術，需要平衡重要的權益，政府最終負責這一點。

儘管目前的對話主要集中在生成式 AI 上，我們不應忽視在計算機視覺、自然語言處理、機器人等更廣泛領域的進展，這也將對社會產生影響。因此，我們歡迎在這裡進行富有深思熟慮的參與，以幫助確保人們獲得最好的結果。

展望未來，我認為 AI 有兩個重要問題。

首先是安全性。新技術往往帶來新挑戰，公司有責任確保我們負責任地建立和部署產品。在 Meta，我們從一開始就在我們的生成式 AI 模型和產品中建立了安全防護措施，並與其他人合作制定界線。我們將謹慎地推出這些產品。

這意味著與學術界合作，並公開發表研究，共享模型卡片，制定禁止某些用途的政策 - 例如在 Llama 2 的情況下，我們的模型進行紅隊測試，並為開發人員發布負責任使用指南。這還意味著與社會各界的專家合作 - 例如，通過合作 AI 夥伴關係的努力，解決如何識別和為 AI 內容添加水印的問題。

我們認為政策制定者、學術界、公民社會和行業都應該共同努力，以最小化這項新技術的潛在風險，同時最大化潛在的好處。如果您認為這一代 AI 工具是一個有意義的前進，那麼不低估潛在的好處是很重要的。

另一個重大問題是訪問權。未來，擁有先進的 AI 將越來越重要，這將是個人、公司和整個經濟的重要驅動力。

在 Meta，我們有著長期開源我們的基礎設施和 AI 工作的歷史，包括我們與今天這裡的一些其他公司密切合作共同推出的 Llama2。

但我想強調的是，我們不是極端的開源主義者。我們不會開源所有東西。我們認為閉源模型也很好，但我們也認為更開放的方法在許多情況下創造了更多價值。根據目前的技術狀況，我們認為這是負責任的方法，但以下是我們在平衡這一點時考慮的一些事情。

首先，我認為重要的是美國繼續在這一領域領先，並確定世界使用的技術標準。下一個領先的開源模型來自阿布達比，其他國家也正在努力。我認為最好是由可以與我們政府合作塑造這些模型在重要問題上的美國公司來確定標準。

其次，我們能夠在這些系統中建立安全防護措施，使它們更安全 - 包括選擇要培訓的數據，充分進行內部和外部紅隊測試以識別和修復問題，微調模型以實現對齊，以及與注重安全的雲提供商合作，為我們釋放並且大多數人將實際使用的系統添加額外的過濾器。

第三，通常人們普遍認為開源軟件更安全，因為更多的人可以仔細檢查它以識別問題，然後分享和傳播解決方案，然後可以用於加固系統。