二十多年來，Google 一直與機器學習和 AI 合作，使我們的產品更有用。AI 以日常方式為我們的使用者提供説明，從 Gmail 中的智慧撰寫到在 Google 地圖中尋找更快的回家路線。人工智慧還使我們能夠為每個人面臨的重大問題做出貢獻，無論是推進醫學發展還是尋找更有效的方法來應對氣候變化。隨著我們繼續將 AI（以及最近的生成式 AI）整合到更多的 Google 體驗中，我們知道必須一起大膽和負責任。
從一開始就為我們的產品提供保護
負責任地引入這項技術的一個重要部分是預測和測試各種安全和安保風險，包括人工智慧生成的圖像所呈現的風險。默認情況下，我們正在採取措施，在 AI 原則的指導下，將保護措施嵌入到我們的生成式 AI 功能中：
防止不公平偏見：我們開發了工具和數據集，以幫助識別和減輕機器學習模型中的不公平偏見。這是我們團隊的一個活躍研究領域，在過去的幾年裡，我們發表了幾篇關於該主題的重要論文。我們還定期尋求第三方意見，以説明解釋社會背景，並評估訓練數據集中潛在的不公平偏見來源。
紅隊：我們招募內部和外部專家參與紅隊計劃，測試各種漏洞和潛在的濫用領域，包括網路安全漏洞以及更複雜的社會風險，如公平性。這些專門的對抗性測試工作，包括我們參加去年 8 月的 DEF CON AI Village Red Team 活動，有助於識別當前和緊急的風險、行為和違反政策的行為，使我們的團隊能夠主動緩解它們。
實施策略：利用我們在政策制定和技術執行方面的豐富經驗，我們制定了生成式 AI 禁止使用政策，概述了我們不允許的有害、不適當、誤導性或非法內容。然後，我們使用我們廣泛的分類器系統來檢測、防止和刪除違反這些政策的內容。例如，如果我們發現違規提示或輸出，我們的產品將不會提供回應，還可能將使用者引導至其他資源，以獲取有關敏感主題（例如與危險行為或自殘相關的主題）的説明。我們不斷微調我們的模型，以提供更安全的回應。
保護青少年：隨著我們逐漸將生成式 AI 體驗（如 SGE）的訪問許可權擴大到青少年，我們根據年輕用戶的發展需求，圍繞可能給他們帶來風險的領域制定了額外的保護措施。這包括限制與欺淩和年齡限制或非法物質等主題相關的輸出。
對客戶的版權進行賠償：我們對用於生成式 AI 模型的訓練數據以及為關鍵 Google Workspace 和 Google Cloud 服務的使用者生成的輸出都提供了強有力的賠償保護。簡而言之：如果客戶因版權而受到質疑，我們將承擔所涉及的潛在法律風險。
為生成式 AI 輸出提供額外的上下文
基於我們長期的跟蹤記錄，提供有關人們在網上找到的資訊的背景資訊，我們正在添加新工具來幫助人們評估我們的模型產生的資訊。例如，我們在搜索中的生成式 AI 中添加了「關於此結果」 ，以説明使用者評估他們在體驗中找到的資訊。我們還引入了新的方法，幫助人們仔細檢查他們在 Bard 中看到的回復。
上下文對於圖像尤為重要，我們致力於尋找方法來確保通過我們的產品生成的每張圖像都具有元數據標籤和 SynthID 的嵌入式浮水印。同樣，我們最近更新了競選廣告政策，要求廣告客戶披露其 競選廣告何時包含經過數位修改或生成的材料。這將有助於為在我們的平臺上看到選舉廣告的使用者提供額外的背景資訊。
我們推出了 Bard 和 SGE 作為實驗，因為我們認識到，作為新興技術，基於大型語言模型 （LLM） 的體驗可能會出錯，尤其是在突發新聞方面。我們一直在努力確保我們的產品隨著更多資訊的出現而更新，我們的團隊會根據需要繼續快速實施改進。
我們如何保護您的資訊
新技術自然會引發有關用戶隱私和個人數據的問題。我們正在構建設計私密的 AI 產品和體驗。我們多年來實施的許多隱私保護措施也適用於我們的生成式 AI 工具，就像您 Google 帳號中的其他類型的活動數據一樣，我們可以隨時輕鬆暫停、保存或刪除這些數據，包括 Bard 和 Google 搜尋。
我們絕不會將您的個人資訊出售給任何人，包括出於廣告目的，這是一項長期的 Google 政策。此外，我們還實施了針對生成式 AI 產品量身定製的隱私保護措施。例如，如果您選擇在 Bard 中使用 Workspace 擴展程式，則人工審核者不會看到您在 Gmail、文檔和雲端硬盤中的內容，也不會被 Bard 用於向您展示廣告，也不會用於訓練 Bard 模型。
與利益相關者合作，塑造未來
人工智慧提出了複雜的問題，無論是谷歌還是任何其他公司，都無法單獨回答。為了正確使用人工智慧，我們需要公司、學術研究人員、民間社會、政府和其他利益相關者之間的合作。我們已經與 Partnership on AI 和 ML Commons 等組織進行了對話，並與其他領先的 AI 實驗室一起發起了前沿模型 論壇，以促進前沿 AI 模型的負責任開發。我們還發表了數十篇研究論文，以説明與研究人員和行業分享我們的專業知識。
我們對我們做出的承諾的進展也是透明的，包括我們在今年早些時候的白宮峰會上與其他科技公司一起自願做出的承諾。我們將繼續與整個行業合作，並與政府、研究人員和其他方面合作，抓住機遇並應對人工智慧帶來的風險。
以上內容來自 [ Google Blog ] blog.google/technology/ai/our-responsible-approach-to-building-guardrails-for-generative-ai
