最近幾個月，沒有什麼比我們在人工智慧，特別是生成人工智慧領域看到的重大突破更能吸引公眾的想像力了。這些產品和服務允許人們通過簡單的提示生成文本、音訊和影片內容。對這些強大的新技術的興趣激增，既引起了人們對它們創造的可能性的巨大興奮，也引起了對風險的極大擔憂。
對於大多數人來說，當面對激發這種誇張樂觀和悲觀情緒的新技術時，不可能知道該怎麼想。唯一的解決方案是開發這些技術的人的開放性。這意味著科技公司需要對他們正在構建的技術更加透明，他們需要與工業界、政府、民間社會和學術界的其他人合作，以負責任的方式開發它們，他們需要找到讓人們參與這個過程的方法，因為他們開發了人工智慧系統運行的護欄。
開放的方法不僅意味著社會將更好地瞭解這些技術的能力 - 以及它們不是什麼 - 它還使人們有機會説明塑造他們的發展，並確保將不同的觀點和經驗融入公司做出的決策中。
我們認為，圍繞生成式人工智慧的產品和政策決策必須由來自世界各地的人員和專家提供資訊。我們已經與數十名學者、研究人員和社區領袖討論了如何思考生成式人工智慧內容，我們還積極與 2016 年作為創始成員加入的人工智慧夥伴關係合作，以説明確保我們和其他人擁有構建這些產品的正確道德界限。
為了讓更多的人參與到這一進程中來，我們需要用新的治理和決策方法進行創新。這就是為什麼我們宣布啟動一個社區論壇，旨在就人們希望在新的人工智慧技術中看到的管理原則產生反饋。我們的生成式人工智慧社區論壇將與斯坦福大學協商民主實驗室和行為洞察團隊（BIT）協商舉辦。這兩個組織都是我們去年啟動社區論壇試點項目的合作夥伴。
什麼是社區論壇？
社區論壇將人們聚集在一起，討論棘手的問題，考慮艱難的選擇，並分享改善使用者在我們的應用中的體驗的建議。該模型基於審議性民意調查，這是世界各國政府使用的方法，其中代表性團體有機會在分享觀點之前瞭解複雜的問題。這與更典型的用戶體驗調查有很大不同，在更典型的用戶體驗調查中，人們會接受他們的印象調查，但不一定熟悉主題。
參與者可以訪問廣泛的教育材料，在小組中多次審議，並有機會就所討論的概念向領先的獨立專家提問。這有助於他們更深入地參與生成式 AI 等複雜問題，並帶來更深思熟慮、細緻入微和豐富的結果。它還有助於 Meta 在構建系統和產品時聽取使用者的廣泛不同觀點。
我們相信生成式人工智慧非常適合這種決策方法。人工智慧模型由它們可以訪問的數據以及我們在構建其基礎設施時創建的結構和輸入為指導。Meta 和像我們這樣的公司輸入指導 AI 模型的 “值”，並通過為它提供一種評估自身輸出的方法來説明防止偏見和意外後果。我們認為，這些價值觀必須反映整個社會的不同觀點，社區論壇將以我們從專家那裡收到的反饋為基礎，作為我們政策制定過程的一部分。
Meta 沒有發明協商民主機制。幾十年來，世界各地的政府和組織一直使用它們來成功回答難題：從修改愛爾蘭的憲法，到解決烏干達的環境災難和人口壓力，以及改變加拿大部分地區的選舉制度。
隨著 Meta 完善開發生成式 AI 系統的最佳方式，本次社區論壇將讓我們深入瞭解人們希望模型如何針對細微的主題行事，從而為未來的產品和政策考慮提供資訊。參與者將探討來自世界各地的各種用戶認為生成式人工智慧系統應該遵循的原則。然後，這些原則可以幫助為我們的系統提供資訊。我們希望該論壇不僅有助於為我們自己的建模基礎設施提供資訊，而且還將為更廣泛的行業提供深思熟慮、細緻入微的見解。
今天，斯坦福大學還發佈了我們 12 月舉行的元界社區論壇的成果。這個論壇不僅為我們提供了寶貴的見解，它展示了人們參與微妙和複雜問題的意願，並證實了這種方法可以在全球範圍內取得成功。
開發新技術的開放方法
社區論壇是透明度、問責制和協作等更廣泛精神的一部分。我們將公開發佈調查結果，以便其他科技公司、學術界和社會可以從參與者那裡收集到的民主見解中受益。一般來說，我們認為，隨著生成式人工智慧等強大新技術的發展，公司需要對其系統的工作方式更加開放。例如，我們是人工智慧夥伴關係的創始成員，並於上周宣佈我們正在參與其合成媒體集體行動框架，這是確保圍繞人工智慧生成的內容建立負責任的護欄的重要一步。這也是我們開拓創新治理模式的原因。除了社群論壇，我們還 在 2020 年成立了監督委員會，這是一個由專家主導的獨立機構，負責制衡 Meta 的內容決策。
我們還認為，對研究和創新採取開放的態度 —— 尤其是在涉及變革性人工智慧技術方面 —— 比將專有技術掌握在少數大型科技公司手中要好。這就是為什麼我們在過去十年中為研究人員發佈了 1000 多個人工智慧模型、庫和數據集，以便他們能夠從我們的計算能力中受益，並公開安全地進行研究。開放性對於確保開發人員、企業家和初創公司能夠使用大公司構建的基礎模型來創建新工具並通過持續和開放式創新提高人工智慧的安全性也至關重要。
以上內容來自 [ Meta Newsroom ] about.fb.com/news/2023/06/generative-ai-community-forum
Comments