德國一間地方法院發布了一項裁決，可能重塑全球搜尋引擎和人工智慧聊天機器人的運作方式。慕尼黑地方法院初步裁定 Google 須為其 AI Overviews 功能生成的一系列虛假陳述負責，並要求該公司防止透過其搜尋引擎傳播錯誤或不準確的資訊。
這項裁決源於《The Decoder》首次報導的一個案件，兩家出版商發現 Google 的 AI 生成摘要在某些搜尋中，無端將他們與可疑的商業行為、詐騙和訂閱相關的欺詐連結在一起。
根據報導，今年稍早，受影響的公司已向這家科技巨頭發出停止侵權函。Google 否認有責任，辯稱其自動摘要功能已警告使用者資訊可能包含錯誤，應獨立查證。
法院分析後認為，Google 的 AI 將其他被標記為可能涉及非法行為的公司資訊，與原告的資料結合，產生了搜尋引擎連結的任何來源中均未出現的關聯。
當局發現，與僅顯示第三方陳述連結列表的傳統搜尋引擎不同，Google 的工具是基於對網路上可用資訊的錯誤解讀，產生了「獨立、新穎且實質的陳述」。
法院認為，糾正錯誤資訊並非第三方的責任。Google 是唯一有能力修改其 AI 生成摘要底層技術的實體，因此「必須承擔責任」。此外，法院發現 Google 的辯護理由缺乏依據，因為受質疑的摘要「包含的陳述根本沒有出現在搜尋結果中」。
法院對 AI 在呈現搜尋結果中角色的解釋，可能使此案成為一個歷史性先例。它認定一家大型科技公司應對其最先進的發展在廣泛使用的平台上所產生的影響負責。
迄今為止，在大多數法律體系中，搜尋引擎被視為僅僅是方便使用者存取第三方在網路上建立內容的工具。當發布的資訊是虛假、不準確、誤導性甚至誹謗性時，這種地位為它們提供了一定程度的保護。
然而，德國法院認為，當搜尋引擎整合生成式 AI 系統時，這種保護不再適用。根據其論證，這項技術能夠基於多個來源產生不存在的陳述，因此，負責營運該技術的公司必須對由此產生的內容承擔責任。
法官們還得出結論，儘管 Google 鼓勵使用者因 AI 模型固有的「幻覺」潛力而驗證資訊，但此警告並不能免除內容發布者的責任。他們認為，否則虛假陳述的受害者將幾乎無法自衛，因為原始來源從未發表過這些陳述，因此也無法對其採取法律行動。
同樣，法院認為 AI 系統生成的結果不能受到言論自由原則的保護，因為它們是一家公司設計、訓練和管理的演算法產物，而非個人意見的表達。
作為預防再次發生的預防措施，該裁決要求 Google 刪除本案中被認定為誹謗的大部分陳述，並承擔訴訟產生法律費用中的 80%。
據《Ars Technica》引述的一位公司發言人表示，這項決定可能會被上訴。聲明中提到：「我們在 AI Overviews 的品質上投入了大量心力，以確保絕大多數的回覆都能提供準確資訊，並且它們旨在反映網路上現有的資訊。我們正在仔細審查這項尚未最終確定的裁決。」
德國法院的這項裁決可能對全球人工智慧產業產生影響。OpenAI、Anthropic 和 Perplexity AI 等公司也警告使用者，其系統生成的回答可能包含錯誤或具誤導性，並像 Google 一樣，建議在使用前驗證資訊。此類警告通常可在使用者建立平台帳戶時同意的服務條款中找到。
然而，本案主張此類警告不足以免除開發商的責任。該裁決認為，當 AI 生成的全新陳述並未直接出現在其原始來源中時，設計、訓練、營運和管理該系統的公司必須對這些陳述造成的任何損害承擔法律責任。