很少有情況，如果有的話，今天的在線威脅會針對單一技術平台 - 相反，它們會跟隨人們在互聯網上的活動。我們非常努力地確保我們的應用程序對用戶安全，並幫助提高我們在互聯網上的集體防禦能力。今天的安全和完整性更新提供了我們防禦策略的底層視圖，以及如何將其融入到我們的新應用程序 Threads 和生成 AI 系統等產品中的最新消息。
自從我們首次開始發布透明度報告以來的十年中，技術公司和研究人員已經學到了很多關於惡意行為者如何濫用在線公共空間的知識。對我們來說的一個關鍵教訓是，我們行業的透明度對我們共同應對新威脅的能力產生了積極的連鎖效應 - 從通過撤銷和公開曝光對惡意團體施加持續壓力到政府制裁以及更強大的產品防禦。今天的更新很好地展示了這在實踐中是如何運作的。
撤銷兩個已知最大的秘密影響行動
中國：我們最近撤銷了數千個帳戶和頁面，它們是全球已知最大的跨平台秘密影響行動的一部分。它瞄準了 50 多個應用程序，包括 Facebook、Instagram、X（以前是 Twitter）、YouTube、TikTok、Reddit、Pinterest、Medium、Blogspot、LiveJournal、VKontakte、Vimeo 和數十個較小的平台和論壇。我們首次能夠將這些活動聯繫在一起，以確認它是一個被安全社區稱為 Spamouflage 的操作的一部分，並將其與中國執法機構有關聯的個人聯繫起來。詳情請參見我們的 Q2 Adversarial Threat 報告。
俄羅斯：我們還封鎖了數千個惡意網站域名，以及在我們的平台上運行假帳戶和頁面的企圖，這些都與我們一年前首次中斷的俄羅斯操作 Doppelganger 有關。這次行動的重點是模仿主流新聞機構和政府實體的網站，發布旨在削弱對烏克蘭支持的虛假文章。它現在已經擴展到最初瞄準法國、德國和烏克蘭的範圍，還包括美國和以色列。這是自 2017 年以來我們拆除的規模最大且最具侵略性的俄羅斯起源行動。除了新的威脅研究外，我們還發布了有關應對全球域名註冊系統濫用的執行和政策建議。
檢視撤銷仇恨網路的影響
我們首次在 2017 年開始使用我們所謂的戰略網絡中斷，以打擊來自俄羅斯的秘密影響行動。由於它被證明是我們工具箱中的一個有效工具，我們將其擴展到其他問題領域，包括仇恨網絡、網絡間諜行動和大規模舉報。但是因為我們知道惡意團體在互聯網上不斷演進其策略，我們也一直在問自己：這些策略是否仍然有效，我們如何改進它們？
我們的研究人員團隊最近發表了一項研究，研究了 Facebook 上六個被禁止的基於仇恨的組織的網路中斷對其影響的效果。研究發現，通過網路中斷將這些實體從平台上剔除，可以幫助使生態系統對於指定的危險組織變得不太適合。盡管這些仇恨團體的核心受眾中的人在短期內表現出反彈的跡象，但證據表明，他們隨著時間的推移減少了與網路和仇恨內容的互動。它還表明，我們的策略可以降低仇恨組織在線成功運作的能力。
建立 Threads 和生成 AI 工具
儘管這些網路撤銷具有重大影響，但它們僅僅是我們針對在線攻擊人員的更廣泛防禦的一個工具。我們的調查和執行驅動了我們所謂的防禦的良性循環 - 改進我們的大規模系統以及我們如何構建新產品。
Threads：從一開始，我們為 Instagram 和其他應用程序制定的完整執行系統和政策已經融入到我們構建 Threads 的方式中。您可以將其視為 Threads 建立在一個全球性的基礎架構之上，同時為多個應用程序提供動力。這意味著我們的安全工作，比如打擊秘密影響行動，適用於 Threads，就像適用於 Facebook 和 Instagram 一樣。事實上，在 Threads 推出的 24 小時內，我們就檢測到並封鎖了與我們過去撤銷的影響行動有關聯的帳戶試圖建立在 Threads 上的存在。
此外，我們還在 Threads 上推出了額外的透明功能，包括標記國家控制的媒體以及顯示有關帳戶的其他訊息，以便人們可以知道，例如，帳戶是否更改了名稱。我們知道，隨著 Threads 應用程序不斷成熟，對抗行為將繼續演變，我們也將不斷改進，以應對這些威脅。
生成 AI：在快速發展的技術，如生成 AI 方面，開放性和跨社會的合作更加關鍵。除了廣泛的內部 "紅隊" 測試，其中我們的內部團隊扮演對手的角色來尋找缺陷，我們最近將我們的生成 AI 模型帶到了 DEFCON - 世界上最大的黑客大會。我們與 Google、NVIDIA、OpenAI 等同行一起參加了首個公開的生成紅隊挑戰的一部分，對不同的模型進行了壓力測試。
超過 2,200 名研究人員參加了這個挑戰，包括數百名傳統上在技術變革的早期階段被忽視的學生和組織，他們聚集在一起尋找這些系統中的漏洞和弱點。根據這個挑戰的組織者的說法，他們與生成 AI 系統進行了超過 17,000 次對話，以探測意外行為 - 從錯誤的數學計算到不實訊息到提供不良的用戶安全實踐。這個公開的紅隊挑戰得到了白宮科學和技術政策辦公室、國家科學基金會以及國會人工智能議會的支持。我們希望早期關注建立新興生成 AI 領域的最佳實踐將在長期內帶來更安全的系統。
我們認為，開放性是解決我們在線面臨的一些最大挑戰的關鍵。透明度報告、學術研究以及其他創新開放和壓力測試我們的系統的措施有助於我們行業相互學習，改進我們各自的系統，並確保在整個互聯網上保護人們的安全。
以上內容來自 [ Meta Newsroom ] about.fb.com/news/2023/08/raising-online-defenses
Comments