英國查爾斯國王將在蘇格蘭的一場峰會上，向Nvidia、OpenAI和Anthropic等人工智慧（AI）公司的資深領導人施壓，要求他們關注AI安全議題。根據白金漢宮的說法，這場週四舉行的活動將聚焦於如何利用AI造福社會與自然世界，並將討論一套共同的技術發展原則。
根據CNBC取得的演講摘錄，國王將在聚會中表示：「人工智慧的發展——其本質與速度——既引人入勝，也同樣令人深感憂慮。」他將補充說：「世上所有珍視人性及其重要道德成分的人，都焦急地尋求你們的保證，確保我們不會失去對自身命運的掌控。」
查爾斯國王也將接待來自Google DeepMind（這家科技巨頭的內部AI實驗室）的資深代表，以及英國AI部長Kanishka Narayan，還有由國王信託基金（King's Trust）、國王基金會（King's Foundation）和永續市場倡議（Sustainable Markets Initiative）召集的其他與會者。
白金漢宮表示，國王將詢問與會者如何以「安全為核心」來駕馭AI的力量，並建立國際合作與共識以實現此目標。查爾斯國王將進一步指出：「在這個形成時期所做的決定，將塑造未來世代所繼承的世界。」
他補充道：「因此，你們面前的任務不僅是推進科技，更是要確保它堅定地服務於人類、社群和自然世界。」國王曾於2023年英國AI安全峰會上發表視訊演說，當時他表示：「我們正在見證人類歷史上最偉大的技術飛躍之一。」
過去兩週，AI安全辯論日益激烈，包括OpenAI的Sam Altman、Anthropic的Dario Amodei、Google DeepMind創辦人Demis Hassabis和Elon Musk等科技巨頭罕見地達成共識，呼籲減緩技術發展並加強監管。
然而，包括美國前總統Donald Trump、Meta的Mark Zuckerberg和Nvidia的Jensen Huang在內的一些人則反對加強監管的呼聲。
同時，協助推動AI技術進步的先驅們也警告，這些系統的能力可能帶來災難性風險。與此同時，華盛頓的辯論也日趨激烈。儘管國會中民主黨和共和黨的一些議員主張立法以限制AI的進展，但Trump週一卻對日益高漲的AI監管呼聲表示憤怒。