「社會工程」一詞聽起來像是陰謀驚悚片的情節,充滿了極權控制和邊緣的偏執。更常見的,它與網路釣魚及其他詐騙手法連結,詐騙者藉此操弄人們洩露個人資訊。然而,這個概念其實更古老且本意良善:它是一種有意識地塑造人類行為的方式,通常是大規模的。它比矽晶片時代更早出現,一旦其操作者學會隱藏手法,便變得無處不在且不受規範。
威權政權、近期的詐騙者以及大型企業都曾從中獲利。為了防範惡意行為者,並善用社會工程的正面效益,我們需要重新定義這個詞,並審慎地加以管理。工程學的根源:1894年,荷蘭企業家Jacques van Marken敦促企業聘請「社會工程師」,像管理機械系統一樣,仔細管理保險、教育和員工利潤分享等人類系統。
十五年後,改革家William H. Tolman出版了《社會工程》一書,描述美國工業家如何將工人條件與製造方法一同優化。如果工業家能隨心所欲地塑造鋼鐵和電力,為何不能塑造社會本身?到了1920年代,這種信心廣泛傳播。建築師Le Corbusier宣稱住宅是「居住的機器」,想像城市是井然有序的網格,人們像輸送帶上的零件般移動。
文明將像瑞士手錶一樣精準運行。這個概念很快就變了調。威權政權將其推向極端,承諾要塑造「新人類」。在納粹德國,工程師Fritz Todt創立了Todt組織,這是一個龐大的國家工程企業,起源於高速公路系統,後來利用奴役勞工經營集中營。在蘇聯,領導人採用美國的科學管理技術,規劃工廠工人的移動,並透過集中記錄對人口進行分類,這既推動了快速工業化,也助長了古拉格(gulag)強迫勞動系統。
用於建設高速公路和實施五年計畫的相同工具和管理方法,也被用於鎮壓和大規模控制。到了1950年代,「社會工程」已成為一個被污染的詞彙。納粹和蘇聯暴行的揭露,加上冷戰時期對宏大社會規劃的批判,使這個詞從進步的口號變成了警示標籤。禁用這些詞彙將這種做法推向地下,使其在以新形式重新出現時更難以辨識——例如組織心理學和系統管理,這些領域仍然依賴分類和行為影響技術,但使用了更溫和、負面色彩較少的標籤。
社會工程更為隱微的傳播:戰後時期,新的社會工程詞彙包括「人因工程」(human factors)和「都市規劃」(urban planning),這些都承諾整合而非命令。隨著運算技術的進步,語言再次轉變:「顧客旅程地圖」(customer journey mapping)用於追蹤互動,「使用者體驗」(user experience)則用於設計互動腳本。
工程學最初是重塑物理空間的手段,如今卻將目標轉向塑造行為。嵌入我們智慧型手機中的數位設計功能,現在正瞄準我們的注意力與慾望。語言有助於掩蓋這些現代形式的社會工程。「資料分析」(data analytics)聽起來比「監控」(surveillance)中性。
「個人化」(personalization)雖然迎合了個人特質,卻仍將使用者歸類到可預測的類別。「行為輕推」(behavioral nudges)在不引起侵入感的情況下引導決策。我們將「社會」作為一個褒義詞附加於科學、資本和媒體,但當它遇到「工程」時卻退縮。
這種不適感是一個線索。工程意味著控制,而控制促使我們去問:誰在指揮誰?為了什麼目的?以及獲得了誰的許可?如今並非所有社會工程都是隱藏的。如果有人交出密碼,駭客就不需要突破防火牆。愛情詐騙者培養親密關係的方式,就像農民耕作作物一樣。他們不是透過武力,而是透過利用信任來成功。
如果連這些顯而易見的攻擊都有效,那麼植根於社會工程的隱形攻擊更是輕而易舉。我們遇到的大多數社會工程都是專有的,且超出我們的控制範圍。企業建立推薦演算法,旨在提高參與度和利潤,卻沒有任何聽證會或上訴權利。瀏覽器和Cookie的預設設定決定了我們交出哪些資料。
一個自動播放開關就能讓使用者耗費數小時,並養成不健康的習慣。這些工程行為的蓄意程度,就像鋪設道路或重新劃分選區一樣。它們創造了一種精心策劃的「癢」,讓無聊感從未平息,滿足感也從未到來。結果是可預測的——使用者點擊目標廣告、進行購買、養成習慣並固化觀點。
同意(consent)也隨之轉變。曾經直接且可撤銷的同意,現在變得微妙而持久,隱藏在預設設定或過於迅速接受的不透明服務條款中。你仍然可以自由選擇退出,就像你可以自由拒絕道路或電力一樣。同意已成為現代生活的預設設定。當社會工程更公開運作時,至少在回應型政府的社會中,公民可以對其提出異議。
如今這種隱形版本徹底分散了責任,使得監督難以進行。儘管最近國會就社群媒體對青少年心理健康的影響舉行了聽證會,且陪審團也同意企業明知故犯地設計會造成傷害的演算法,但要明確指出責任歸屬仍然難以捉摸。當機制隱藏在數十億人使用的系統中時,我們無法輕易指出單一決策者,也無法追溯操縱的確切時刻。
今天的社會工程不如其前身那樣公開和戲劇化。早期的版本透過公共海報和擴音器傳達給大眾。今天的版本則更為私密,透過個人裝置和為個人量身定制的持續資訊流傳遞。這種模式之所以成功,是因為參與的感覺像是自由,而非控制。並非所有社會工程都是反烏托邦式的。
維護良好的公園能促進社區發展,無障礙建築能提升尊嚴,疫苗和安全帶能拯救生命。即使在數位領域,也存在正面的例子:自動阻擋隱藏追蹤器的瀏覽器擴充功能、拒絕建立個人化監控檔案的搜尋引擎,以及讓使用者更能掌控自身資料和資訊流的去中心化社群平台。然而,「社會工程」這個詞仍然令人不安。
但完全忽視人類後果的「反社會工程」(asocial engineering)則更糟。認識到工程學的人文維度是修復的開始。只有清楚地看見其機制並誠實地命名,我們才能決定誰在設計什麼以及為何設計。這個機制不會自行瓦解。一旦被命名,它就成為選擇的對象。
這種對目的、權力與過程的協商,是任何真正民主的決定性政治問題。只要我們迴避這些詞彙,我們就無法確保社會工程能夠服務並維繫社會。
