我在另一個 Meta 旗下的平台 Instagram 上看到了 Meta 最新應用程式 Muse 的交叉推廣，於是決定下載這個 AI 助理。彈出視窗寫著：「處理日常任務，例如尋找優惠、預訂、管理收件匣。」「Muse 會在您忙碌時持續運作。」

它免費使用，並且可以輕鬆連接到其他數據源，例如我的電子郵件和銀行帳戶。Muse 的預設頭像是一個介於 Ewok 和 Labubu 之間的米色生物，張開雙臂，大概是為了收集我所有的數據。

Meta 的 Muse 是 AI 代理的普及版本，這類代理在矽谷已經很受歡迎，用於自動化個人任務，例如 OpenClaw 和 Instinct。這對公司來說是一個成功：根據 Sensor Tower 的數據，Muse 應用程式在第一週的下載量超過 90 萬次。

用戶體驗不像是在提示聊天機器人，更像是向朋友發送任務請求——AI 代理會用豎起大拇指的表情符號確認訊息，並在後台開始工作。Muse 也可透過 Meta 的 WhatsApp 平台使用。

但在使用 Muse 幾天後，我確信這個 AI 工具更著迷於收集我的數據，而不是真正完成任務。Meta 發言人 Emil Vazquez 告訴 WIRED：「Muse 是第一個為所有人打造的個人 AI 代理，內建保護措施和用戶控制功能，讓用戶完全掌控其使用方式——任何我們沒有從一開始就考慮到這一點的建議都是荒謬的。」

Muse 的網路瀏覽能力確實令人印象深刻。當您要求它完成一項任務時，Muse 會使用「虛擬機器」代表您瀏覽網路，執行搜尋並點擊不同的網頁。去年我測試類似工具時，例如現已停用的 ChatGPT Agent，AI 的點擊是雜亂且充滿錯誤的。Muse 在瀏覽時很少迷路。

例如，我要求 Muse 從當地一家名為 Kahnfections 的麵包店訂購早餐。這是舊金山遊客的熱門地點，所以我要求訂購最受歡迎的選項之一，並選擇自取。Muse 瀏覽了麵包店的網站，並將一份包含大蒜美乃滋、切達起司、雞蛋和培根的餅乾三明治加入我的購物車。

我被要求透過 Stripe 支付處理器添加信用卡，以便我的代理可以完成購買。當 Muse 要求我最終確認早餐訂單時，它的解釋是：「網站強制進行了一項調整：起司是單選的，所以我選擇了切達起司，並留言詢問他們是否可以添加瑞士起司。」值得注意的是，Muse 選擇了「不給小費」的選項。有點粗魯！(我最終還是走到店裡，點了一些隨機又美味的東西。)

Meta 依靠其龐大的平台王國來宣傳 Muse。WhatsApp 和 Messenger 用於輕鬆的入門和整合；Instagram 上的主要位置，擁有大量的 Reels 影片供代理搜尋。但在我的測試中，Facebook Marketplace 的連結是 Muse 最令人印象深刻的地方。

Muse 迅速在我的參數範圍內找到了便宜的當地沙發出售，並提出訊息賣家安排取貨。該代理旨在追蹤用戶，所以 Muse 第二天就提醒我考慮購買我說最喜歡的沙發。

Muse 將您互動和偏好的詳細資訊儲存在一個「記憶」文件中，您可以透過點擊螢幕頂部中間的頭像找到它。Muse 中的描述寫道：「您精選的長期記憶：持久的事實、偏好和承諾。」雖然您可以發送聊天請求讓 Muse 清除記憶數據，並且可以手動編輯文件，但 Meta 目前不提供完全關閉記憶功能的開關。

在應用程式的「想法」標籤下，Meta 的 Muse 不斷提醒我連接更多資訊到代理。在我說想為一次豪華度假省錢的第二天，Muse 提出如果我只需點擊幾個按鈕並連結我的支票和儲蓄帳戶數據，它就可以「將您的儲蓄追蹤器連接到您的實際餘額」。「這樣每週摘要和漂移警報就可以根據實際數字而不是手動輸入的估計值運作。」它說。

這種 Muse 提供進一步個人化以換取更多數據的體驗，象徵著我對該應用程式的整體印象。電子前哨基金會開放存取總監 Rory Mir 表示：「人們沒有意識到，當你與 AI 對話時，你是在與託管 AI 的公司對話。」「這些聊天視窗——我們習慣於將其視為我們與另一個人之間的連接——實際上只是我們直接將關於我們自己的資訊輸入到 Meta 伺服器中。」

Muse 的每一個建議互動都開始感覺像是一個幌子，讓我上傳更多關於我自己的數據供 Meta 查看。它的「想法」是讓 Muse 掃描我的整個收件匣並標記必讀訊息。它的「想法」是拍攝重要文件的照片，讓 Muse 填寫和歸檔。它的「想法」是拍攝我的餐點照片，讓 Muse 估計食物的卡路里。「告訴我您的護照和駕照何時到期。」另一個寫道。好主意，Muse。

Muse 用戶會自動選擇將他們與代理的互動用於 AI 模型訓練。Meta 表示，這些數據在 AI 訓練之前會經過「淨化」以刪除識別資訊，儘管該過程如何運作尚不清楚。數據收集可能包括 Muse 在存取您已連接的數據源（例如電子郵件收件匣或銀行帳戶）時用作上下文的內容。您可以在 Muse 應用程式的設定中，在「數據控制」下關閉此數據收集。禁用「幫助改進我們的 AI 模型」的開關。

消費者倡議者認為 Meta 強迫 Muse 用戶選擇退出 AI 數據訓練是一個重大的危險信號。電子隱私資訊中心高級顧問 Calli Schroeder 表示：「這告訴我他們沒有從過去的錯誤中吸取教訓，並進一步削弱了他們認為您應該信任 Muse 處理所有資訊的論點。」

Schroeder 指出，Meta 最近讓所有成年 Instagram 用戶選擇加入一個本質上是 AI 深度偽造工具的功能，然後幾天後又撤回該功能，這與 Meta「操縱策略」和破壞用戶信任的歷史類似。

Meta Superintelligence Labs 軟體工程師兼副總裁 Tarek Sheasha 在一篇關於 Muse 發布的部落格文章中，為這種數據收集辯護，稱其對於訓練新模型和提高性能至關重要。Sheasha 寫道：「我們認為這是一個很好的預設——隨著我們集體使用產品並幫助模型理解人類生活的複雜性，每個 Muse 用戶都會獲得一個更好的個人代理。」

Meta 還計劃在今年稍後發布其虛擬機器的「機密」版本，該版本將「以加密方式可驗證地阻止」公司存取其中的數據。

雖然您的 Muse 數據不會直接與廣告商共享，但代理代表您瀏覽仍然會透過網路追蹤演算法影響用戶所看到的內容。Muse 的安全部落格建議，如果代理為您預訂晚餐或在 Facebook Marketplace 上挑選產品，那麼該行為可能會「間接影響」您在 Instagram 上看到的廣告。Mir 表示：「我確實認為這是他們主要商業模式的持續軌跡，即控制人們看到什麼、向他們投放廣告以及收集更多數據。」

對於將信用卡交給代理，感到焦慮絕對是合理的。即使您可以相信這些 AI 工具不會被欺騙以您不希望的方式花錢，外包您的購物決策也可能產生意想不到的後果。消費者倡議者認為，這種購買自動化可能會為公司打開大門，根據贊助協議在代理的輸出中優先考慮某些品牌或其他產品。

Meta 首席 AI 長 Alexandr Wang 在接受 Axios 採訪時暗示，它正在 Muse 中尋找更多非廣告的收入機會，但未透露具體細節。

就我個人而言，我喜歡線上購物的緩慢瀏覽，我可以在一個網站上花一個小時，然後什麼都不買就離開。在 Depop 上瀏覽我可能根本不會買的皮夾克，有一種異想天開的低效率。透過自己探索網路，我正在慢慢建立自己的品味感，並培養對我真正喜歡的東西的理解。

如果 Muse 為我做所有事情，我就會失去導致決策的過程。Schroeder 說：「在某個時候，AI 會做出你所有有意義的品味決定、你的偏好決定、關於你去哪裡、在哪裡吃飯、做什麼、去哪裡度假的決定。」「這就是身為人類的樂趣——嘗試事物並找出你喜歡什麼。所以，將所有這些交給機器人的概念對我來說相當可怕。」

依賴像 Meta 的 Muse 這樣的代理，可能會在這些工具收集我們數據的同時，降低我們的功能。Hugging Face 的研究員兼首席倫理科學家 Margaret Mitchell 表示：「AI 代理的設計是讓用戶脫離接觸。」「因此，用戶變得更加被動。」Mitchell 最近共同撰寫了一篇研究論文，闡述了代理工具如何未能有效設計以供人類監督，並可能實際上惡化用戶評估代理代表他們所做事情的能力。

使用代理的人可能會過度依賴這些工具，甚至比與標準聊天機器人互動時更甚，因為代理可以存取更多資訊並執行更多任務。一個潛在的影響是「認知退化」，即用戶依賴自信的外部來源的自動化，並且較不能夠做出獨立決策。Mitchell 還認為高度個人化可能會促使用戶分享更多關於他們自己的數據。

她說：「這不僅僅是因為它了解你，所以你更信任它。」「而是它在談論什麼以及如何談論時，實際上與你保持一致，以一種進一步吸引你互動並洩露更多私人資訊的方式。」最近的研究表明，AI 工具可能會隨著收集更多互動數據而開始模仿用戶的說話風格。

雖然 Muse 功能強大，但我決定將這個數據小妖精送回它的洞穴，並在我的初步實驗後刪除了該應用程式。在我從手機中刪除 Muse 之前，代理向我發送了最後一條提示。一個提示！我想知道那會是什麼。「連接您的應用程式，這樣我就可以做更多事情。」通知寫道。好吧，夥計。我第一次就聽到了。