《 Meta 》我們打擊在線掠奪者的工作

防止剝削兒童是我們當今行業面臨的最重要挑戰之一。在線掠奪者是堅定的犯罪分子，他們使用多個應用程式和網站來瞄準年輕人。他們還測試每個平台的防禦能力，並學會快速適應。這就是為什麼現在，我們一如既往地努力保持領先。除了開發根除掠奪者的技術外，我們還聘請了致力於在線兒童安全的專家，並與行業同行和執法部門共用資訊。

我們非常認真地對待最近關於我們工作有效性的指控，並成立了一個工作組來審查現有政策；檢查我們現有的技術和執法系統；並做出改變，加強我們對年輕人的保護，禁止掠奪者，並消除他們用來相互聯繫的網路。工作隊立即採取措施加強我們的保護，我們的兒童安全團隊繼續採取其他措施。今天，我們將分享工作組迄今為止所做的工作。

Meta 兒童安全工作組概覽

Meta 的兒童安全工作組重點關注三個領域：建議和發現、限制潛在掠奪者並移除其網路，以及加強我們的執法。

建議和發現

我們會在 Reels 和 Instagram Explore 等地方提供推薦，説明使用者在我們的應用上發現新事物，使用者使用搜索和話題標籤等功能來查找他們可能感興趣的內容。鑒於我們正在向這些地方的使用者提出建議，我們採取了保護措施，以幫助確保我們不會提出可能令人不安或可能違反我們規則的內容。我們擁有完善的系統，可以主動查找、刪除或避免建議違反我們規則或可能不適合推薦給用戶的內容、群組和頁面等。我們的兒童安全工作組通過組合這些系統並擴展其功能來改進這些系統。這項工作正在進行中，我們預計它將在未來幾周內全面生效。

以下是我們所做的：

我們擴展了現有的兒童安全相關術語、短語和表情符號清單，供我們的系統查找。我們有許多這些術語的來源，包括非營利組織和在線安全專家，我們的專業兒童安全團隊調查掠奪性網路以了解他們使用的語言，以及我們自己的技術，可以發現這些術語的拼寫錯誤或拼寫變體。
我們還開始使用新技術來尋找新術語。例如，我們正在使用機器學習技術來查找我們已經知道可能有害或違反我們規則的術語與同時使用的其他術語之間的關係。這些可能是與違規字詞在同一會話中搜索的字詞，也可能是包含違規字詞的標題中使用的其他主題標籤。
我們合併了我們的系統，以便將新術語添加到我們的中央清單中時，它們將同時在 Facebook 和 Instagram 上執行。例如，我們可能會向內容審核者發送 Instagram 帳戶、Facebook 小組、主頁和個人主頁，限制這些字詞在 Facebook 和 Instagram 搜尋中生成結果，並在 Facebook 和 Instagram 上遮罩包含這些字詞的主題標籤。

限制潛在的掠奪者並刪除他們的網路

我們開發了識別潛在可疑成年人的技術，我們審查了 60 多種不同的信號來找到這些成年人，例如青少年是否阻止或舉報成年人，或者是否有人反覆搜索可能暗示可疑行為的字詞。我們已經使用這項技術來限制潛在可疑的成年人發現、跟蹤或與青少年互動，並且我們已經擴展了它，以防止這些成年人發現、跟蹤或相互互動。

以下是我們所做的：

在 Instagram 上，潛在的可疑成年人將被阻止相互關注，不會在 Explore 和 Reels 等地方相互推薦，也不會在公開貼文上看到彼此的評論等。
在 Facebook 上，我們使用這項技術來更好地查找和處理某些小組、主頁和個人主頁。例如，如果 Facebook 群組的成員達到一定比例，但表現出潛在的可疑行為，則不會在 “您應該加入的群組” 等位置向其他人推薦。此外，如果群組成員資格與因違反兒童安全政策而被移除的其他群組重疊，則不會顯示在 “搜索” 中。由於這項工作，自 1 年 2023 月 190 日起，我們從 Google 搜索中移除了超過群組。
我們還聘請具有執法和在線兒童安全背景的專家來尋找掠奪性網路並將其刪除。這些專家監控這些網路所表現出的不斷發展的行為（例如新的編碼語言），不僅可以刪除它們，還可以為我們用來主動發現它們的技術提供資訊。在 2020 年至 2023 年期間，我們的團隊破壞了 32 個濫用網路，並刪除了與這些網路關聯的 160,000 多個帳戶。

加強執法

該工作組還進行了一系列更新，以加強我們的報告和執法系統，並找到了根除和禁止潛在掠奪性帳戶的新方法。僅在 2023 年 500 月，我們就停用了超過違反兒童性剝削政策的帳號。

我們宣佈加入 Lantern，這是 Tech Coalition 的一項新計劃，使科技公司能夠分享有關違反其兒童安全政策的帳戶和行為的各種信號。Lantern 參與者可以使用這些資訊在自己的平台上進行調查並採取行動。
我們審核了我們的系統並修復了我們發現的技術問題，包括意外關閉使用者報告的問題。
我們改進了用於為內容審閱者確定報告優先順序的系統。例如，我們正在使用旨在查找剝削兒童圖像的技術，以優先處理可能包含此類圖像的報告。
我們引入了其他方法來主動查找和移除可能違反我們兒童安全政策的帳號。例如，我們會將表現出潛在可疑行為的 Instagram 帳戶發送給我們的內容審核者，如果這些帳戶表現出足夠多的 60+ 個信號，我們將自動停用這些帳戶。由於這種方法，月識別並自動刪除了多個帳戶。
我們提供了新的指南和工具，以幫助內容審查者瞭解掠奪者使用的最新行為和術語，以及許多不同的語言。例如，內容審核者現在將看到有關他們正在審核的貼文中使用的編碼術語的資訊，以了解這些術語的潛臺詞，以及掠奪者如何使用它們。這將有助於內容審核者更好地識別此行為並採取行動。
我們進行了改進，以便更好地查找和移除可能與違反兒童安全政策的帳戶和 Facebook 帳戶相關聯的 Instagram 帳戶和 Facebook 個人主頁，並防止他們通過自己的設備創建新帳戶。自 250 月初以來，我們自動遮罩了 Instagram 上超過違反兒童安全政策的設備，而設備遮罩方面的改進導致 Instagram 和 Facebook 每天新增多條違規處置措施。
我們改進了對潛在可疑 Facebook 小組的主動檢測，並更新了我們的協議和審核工具，以便我們的審核者可以刪除更多違規小組。自 1 年 2023 月 16 日起，我們審核並移除了違反兒童安全政策的小組。
在 9 月啟動了新的自動執法措施後，我們發現自動刪除包含成人裸體和性行為的 Instagram 生活的數量是原來的五倍。
我們每月在全球 Facebook 和 Instagram 上對違反我們政策的行為採取了超過 4 萬次 Reels 行動。