人工智慧對年輕人來說是一個強大的工具。它可以幫助學生理解困難的概念、練習新語言、準備工作面試、探索創意想法或學習新技能。就像20世紀中葉全球普及的識字運動需要大量印刷文本和受過訓練的教師一樣，今天提供安全的 AI 存取將為個人化學習開啟新機會，幫助減少弱勢群體的障礙，並提高勞動力準備度。

由於潛在效益如此巨大，確保年輕人能以安全、適齡且有助於健康發展的方式使用 AI 至關重要。這份責任不應主要落在父母或年輕人自己身上。包括 OpenAI 在內的企業有責任預設建立具有適當防護措施的產品，同時賦予家庭工具和資訊來引導 AI 的使用方式。

本月稍晚，各國元首將在法國埃維昂舉行的 G7 領袖峰會上齊聚一堂，青少年 AI 安全將是重點議題。OpenAI 將參與討論，以促進青少年安全方面的更大合作、如何共同提高產業標準，以及 OpenAI 呼籲建立國際青少年安全機構的新倡議。

G7 領袖峰會是全球協調青少年安全的一個難得機會。但一個專門的機構將提供超越單一峰會所需的連續性和後續行動，幫助各國政府、研究人員、公民社會和產業持續合作，分享證據、制定指導方針並逐步提高標準。有幾種可靠的方式可以實現這一目標：透過一個新的國際機構，或者賦予現有或新成立的國家 AI 機構全球職責，與世界各地的合作夥伴分享研究、證據和指導。

最重要的是它所提供的功能。青少年 AI 安全需要持續的關注、值得信賴的證據和能夠跟上技術發展的實用指導。這樣的機構可以建立在現有倡議的基礎上，例如由 OpenAI 基金會支持的 Common Sense Media 青少年 AI 安全機構，以及與教育工作者的實際合作，包括 OpenAI 與美國教師聯合會的合作。

它還應借鑒實際部署的經驗，例如愛沙尼亞在學校全面推動 ChatGPT 的案例，OpenAI 正與史丹佛大學和愛沙尼亞研究人員合作，研究其影響並為學習中更安全、更有效的使用提供資訊。

OpenAI 樂於有機會與法國政府、其他 G7 政府以及公民社會、學術界和產業的合作夥伴合作，共同完成這項重要工作，並提高青少年安全的全球標準。

制定青少年 AI 安全的全球標準

我們相信強大的 AI 青少年安全框架，包括在 G7 會議上可能達成的任何協議，都應以我們在此提出的原則為指導。

企業應了解使用者是否為未成年人，並應用適齡的保護措施。這意味著要求提供者使用有效且保護隱私的年齡估計等方式來區分未成年人與成年人，並在無法確定使用者年齡時，預設啟用保護性防護措施。如果沒有這個基礎，即使是出於善意的青少年保護措施也可能無法觸及它們旨在保護的年輕人。

企業應定期評估對年輕人的風險和益處，並在損害發生之前採取措施加以解決。這意味著要求提供者完成年度青少年安全風險評估，並根據他們識別出的風險實施相稱的防護措施。此類評估應考慮年輕人基於其發展階段的風險、實際使用中的實證證據以及相關研究或監管指南。評估不僅應考慮潛在危害，還應考慮 AI 是否支持學習、創造力、技能發展和機會獲取等積極成果。

父母和監護人應擁有易於存取的、易於使用的控制功能，以幫助他們引導孩子的體驗，同時支持適齡的獨立性。這些應包括管理關鍵設定的工具，例如記憶功能、資料使用和時間限制。應積極推廣家長工具，讓父母知道它們的存在並了解如何使用它們。

家庭應獲得清晰、易懂的資訊，了解企業如何保護年輕使用者，並提供有關年輕人使用 AI 的益處和風險的實質資訊。企業應發布安全政策，解釋已有哪些防護措施來保護年輕人、可用的家長工具以及如何隨著風險的演變更新保護措施。這種透明度建立信任，並幫助父母做出明智的選擇。

企業應制定明確的協議，以處理嚴重的安全情況，包括自殘、剝削、誘騙、性剝削內容和其他高風險互動。這些應包括服務內支援、轉介至適當資源以及適時的家長通知。企業還應設計其系統，以防止它們生成對兒童不安全或發展不適當的內容，包括露骨的性或暴力材料。

年輕人使用的 AI 系統應設計為支持學習、發展和現實世界關係，而不是取代它們。AI 應作為一種工具，幫助年輕人學習、創造、培養技能並為未來做準備。同時，企業應在健康發展依賴人類判斷、現實世界關係和專業支持的領域建立明確的界限。

未成年人的個人資訊應受到保護。這意味著禁止對年輕人進行侵犯隱私的定向廣告，並禁止企業出售個人資訊。

青少年安全框架應促進機會、素養和保護。年輕人應能使用支持學習、創造力、技能發展和未來機會的 AI 工具，同時也應具備安全、負責任地使用 AI 所需的知識和批判性思考能力。這包括促進 AI 素養，幫助年輕人了解 AI 系統的機會和限制，以便他們能夠自信、負責任地參與數位空間。

強大的問責機制，包括獨立稽核，對於確保這些保護措施在實踐中具有意義至關重要。稽核應以一套共同標準為基礎，允許跨司法管轄區的互通稽核。立法框架應包括監督和執行措施，允許政府評估企業是否有效實施青少年安全防護措施、緩解已識別的風險，並遵守青少年安全和隱私義務。

這些原則體現在我們如何建立和營運 ChatGPT，從模型行為和產品設計到專家意見和實際支援。我們已加強對 18 歲以下使用者的防護措施，推出了帶有主動通知的家長控制功能，並改進了年齡預測系統，以便 ChatGPT 在使用者可能未滿 18 歲時應用更強的保護措施。

我們的模型規範（Model Spec），概述了我們的模型應如何運作，也包含了針對 18 歲以下使用者的專門原則，優先考慮青少年安全、適齡體驗、現實世界支援和明確的期望。實際上，這意味著在自殘、危險活動、露骨內容、身體形象和秘密方面有更強的防護措施，同時鼓勵在需要時尋求值得信賴的線下支援或危機資源。

當年齡不確定時，我們預設啟用更強的防護措施。設計有強大防護措施並提供清晰指導，以及家庭和教育工作者支持的 AI，可以幫助年輕人安全地受益於擴展學習、創造力和機會的工具。AI 可以幫助學生理解困難的概念、練習語言、提高寫作能力、學習編碼、組織研究、探索創意想法，並為已經在變化的工作做準備。

透過「國家教育計畫」（Education for Countries），OpenAI 正與各國政府和教育工作者合作，進行研究驅動的部署、本地化學習工具和教師培訓，使 AI 的採用以證據和實際課堂需求為基礎。這項工作已經支持我們合作夥伴國家（包括愛沙尼亞、希臘和新加坡）的國家教育工作。

OpenAI 在 G7 峰會

除了參與領袖峰會，我們還將把 OpenAI 論壇帶到巴黎，召開一場務實的對話，討論政府、研究人員、公民社會、教育工作者和產業如何將共同的青少年安全目標轉化為具體的防護措施、標準和實施實踐。法國 AI 和數位事務大使 Clara Chappaz 將與 OpenAI 全球事務長 Chris Lehane、iRaise/Everyone.AI 的青少年安全領袖以及其他專家一起，討論年輕人如何在降低風險的同時從 AI 中受益。