該組織對Meta處理帳號停用的方式抱持「正當程序疑慮」。過去五年來,Meta的監察委員會曾針對從Donald Trump的Facebook停權到AI深偽技術等議題發表意見。如今,該委員會正深入探討另一個棘手問題:Meta停用用戶帳號的規則。
委員會今年稍早宣布,將著手改善該流程的透明度,因為其往往令人沮喪地不透明。此監察組織是在Meta轉介一個擁有7萬追蹤者的Instagram帳號案例後,深入調查此問題,該帳號因發布威脅記者的貼文而被停用。監察委員會在其裁決中表示,Meta停用該帳號是正確的,但此案例引發了對該公司處理此類行為的「嚴重質疑」,以及其停用帳號方式的「正當程序疑慮」。
由於這是一個試驗性案例,委員會並未向Meta提出正式建議,但確實點出了多項潛在的改進空間。其分析也突顯了Meta平台上導致帳號停用的規則和懲罰措施混亂不一,以及這對用戶造成的巨大挫折感。舉例來說,委員會指出Meta對Facebook和Instagram有著截然不同的處理流程。
儘管兩個平台都對違規帳號施加「警告」(strikes),但重複警告可能導致不同的結果。在Facebook上,帳號在徹底停用前,可能會因重複違規而收到暫時停權。但委員會表示,Instagram上沒有這樣的懲罰。相反地,Meta會限制帳號使用Instagram的直播功能,或將其帳號從推薦中移除(Instagram用戶常稱之為「影子禁令」)。
監察委員會合理地指出,限制直播功能作為Instagram上主要的「中間」懲罰之一是多麼奇怪,因為該功能甚至並非所有帳號都可用(它需要至少1,000名追蹤者)。委員會指出:「對於永久貼文的違規行為,若能施加直接對應違規行為的懲罰,例如在特定期間內暫停用戶發文能力(例如將其帳號設為唯讀模式),將更有可能影響其行為。」
委員會也提及了Facebook和Instagram用戶因帳號被停用而長期累積的挫折感。該組織表示,除了個別委員會成員經常收到無數關於帳號被停用的投訴外,此案例還收到了超過750條公開評論。委員會寫道:「許多評論者提到系統失靈,表示他們無法對Meta停用帳號的決定提出申訴,從未收到帳號被停用的任何解釋,或者無法下載他們的內容。」
「許多這些用戶也指出,這些決定似乎是自動做出的,沒有任何人工監督,即使是對長期存在且廣受關注的帳號停用申訴也是如此。」在給Meta的指導意見中,委員會建議該公司應為用戶提供更好的申訴流程,允許他們提供書面解釋,並且當AI被用於懲罰其帳號時,應通知用戶。
委員會提議,關於帳號停用的資訊可以添加到Meta的透明度報告中,以增加可見度。該組織還建議Meta提供一個專門的渠道,讓「高風險暴力受害者及其代表」可以舉報針對他們的嚴重威脅。鑑於此案例被描述為「試驗性」,目前尚不清楚Meta是否計劃針對委員會的批評做出任何實質性的政策改變。
但對於那些希望Meta改進的人來說,仍抱有一線希望。委員會表示,未來計劃接受更多處理帳號停用問題的案例,這有望讓他們有更好的機會影響一些改革。
