Anthropic，Google，Microsoft 和 OpenAI 正在推出 Frontier Model Forum，這是一個專注於確保前沿 AI 模型的安全和負責任開發的行業機構。
今天，Anthropic，Google，Microsoft 和 OpenAI 宣佈成立 Frontier Model Forum，這是一個新的行業機構，致力於確保前沿 AI 模型的安全和負責任開發。前沿模型論壇將利用其成員公司的技術和運營專業知識，使整個人工智慧生態系統受益，例如通過推進技術評估和基準，以及開發一個公共解決方案庫來支持行業最佳實踐和標準。
論壇的核心目標是：
推進人工智慧安全研究，以促進前沿模型的負責任開發，最大限度地降低風險，並對能力和安全性進行獨立、標準化的評估。
確定負責任地開發和部署前沿模型的最佳實踐，幫助公眾瞭解技術的性質、功能、局限性和影響。
與政策制定者、學術界、民間社會和公司合作，分享有關信任和安全風險的知識。
支持開發有助於應對社會最大挑戰的應用程式，例如減緩和適應氣候變化、早期癌症檢測和預防以及應對網路威脅。
成員資格標準
論壇將前沿模型定義為大規模機器學習模型，這些模型超越了當前最先進的現有模型中的能力，並且可以執行各種任務。
符合以下條件的組織均可成為會員：
開發和部署前沿模型（由論壇定義）。
表現出對前沿模型安全的堅定承諾，包括通過技術和制度方法。
願意為推進論壇的努力做出貢獻，包括參與聯合倡議和支持倡議的發展和運作。
論壇歡迎符合這些標準的組織加入這項工作，並合作確保前沿人工智慧模型的安全和負責任開發。
前沿模型論壇將做什麼
政府和行業一致認為，雖然人工智慧為造福世界提供了巨大的希望，但需要適當的護欄來降低風險。美國和英國政府、歐盟、經合組織、七國集團（通過廣島人工智慧進程）和其他方面已經為這些努力做出了重要貢獻。
為了在這些努力的基礎上再接再厲，需要在安全標準和評估方面開展進一步的工作，以確保負責任地開發和部署前沿人工智慧模型。該論壇將成為跨組織討論人工智慧安全和責任和行動的工具之一。
未來一年，論壇將重點關注三個關鍵領域，以支援前沿人工智慧模型的安全和負責任開發：
確定最佳實踐：促進行業、政府、民間社會和學術界之間的知識共用和最佳實踐，重點關注安全標準和安全實踐，以減輕廣泛的潛在風險。
推進人工智慧安全研究：通過確定有關 AI 安全的最重要的開放研究問題來支援 AI 安全生態系統。論壇將協調研究，以在對抗性穩健性、機械可解釋性、可擴展監督、獨立研究訪問、緊急行為和異常檢測等領域推進這些努力。最初將重點關注開發和共用前沿人工智慧模型的技術評估和基準的公共圖書館。
促進公司和政府之間的訊息共用：建立可信、安全的機制，在公司、政府和相關利益攸關方之間共用有關人工智慧安全和風險的資訊。論壇將遵循網路安全等領域負責任披露的最佳做法。
Google 和 Alphabet 全球事務總裁肯特・沃克（Kent Walker）表示：“我們很高興與其他領先公司合作，分享技術專長，以促進負責任的人工智慧創新。我們都需要共同努力，確保人工智慧造福於每個人。
Microsoft 副主席兼總裁布拉德・史密斯（Brad Smith）表示：“創造人工智慧技術的公司有責任確保其安全，可靠，並保持在人類控制之下。這一舉措是將科技行業聚集在一起，負責任地推進人工智慧並應對挑戰以造福全人類的重要一步。
OpenAI 全球事務副總裁 Anna Makanju 表示：“先進的人工智慧技術有可能深刻地造福社會，實現這一潛力的能力需要監督和治理。至關重要的是，人工智慧公司 —— 尤其是那些致力於最強大模型的公司 —— 在共同的基礎上保持一致，並推進深思熟慮和適應性強的安全實踐，以確保強大的人工智慧工具具有盡可能廣泛的利益。這是一項緊迫的工作，這個論壇有能力迅速採取行動，推進人工智慧安全的狀態。
Anthropic 首席執行官 Dario Amodei 表示：“Anthropic 認為人工智慧有可能從根本上改變世界的運作方式。我們很高興與行業、民間社會、政府和學術界合作，促進該技術的安全和負責任的發展。前沿模型論壇將在協調最佳實踐和分享前沿人工智慧安全研究方面發揮至關重要的作用。
前沿模型論壇將如何運作
在接下來的幾個月里，前沿模式論壇將建立一個諮詢委員會，以説明指導其戰略和優先事項，代表不同的背景和觀點。
創始公司還將建立關鍵的制度安排，包括章程、治理和資金，並有一個工作組和執行委員會來領導這些努力。我們計劃在未來幾周內與民間社會和各國政府就論壇的設計和有意義的合作方式進行磋商。
前沿模型論壇歡迎有機會説明支持和推動現有的政府和多邊倡議，如七國集團廣島進程、經合組織在人工智慧風險、標準和社會影響方面的工作，以及美歐貿易和技術委員會。
論壇還將尋求在其每個工作流程中利用現有行業、民間社會和研究工作的寶貴工作。人工智慧夥伴關係和 MLCommons 等倡議繼續在整個 人工智慧社區做出重要貢獻，論壇將探索與這些和其他有價值的多利益攸關方努力合作和支援的方法。
