人工智能大模型帶來的技術變革超出業內預料，隨之而來的治理問題也引起關注。
4月11日，國家互聯網信息辦公室就《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）向社會公開征求意見?！墩髑笠庖姼濉诽岢?，提供生成式人工智能產品或服務應當遵守法律法規的要求，尊重社會公德、公序良俗，禁止非法獲取、披露、利用個人信息和隱私、商業秘密。
隨著ChatGPT火爆市場，大眾對生成式人工智能技術的認知程度不斷提升，眾多投資涌入人工智能行業，一時間，ChatGPT以及相關產業站在了投資風口，人工智能的發展和應用正成為推動全球經濟增長的重要力量。
然而，潛在發展與應用機遇的井噴也帶來諸多風險隱患。例如，目前已經出現了人工智能模型及其服務侵犯用戶個人隱私的案例、虛假信息被用于網絡詐騙和網絡犯罪、人工智能內容生成甚至會對危險行為的實施提供建議等……業內專家擔憂，模型的不可解釋性、算法和硬件的不可靠性、自主意識的不可控性，使得人工智能內容生成面臨的風險更加不可控。
人類需要科學技術，科學技術是推動人類社會發展的強大動力。人工智能作為一種新興的技術，有很大的潛力和應用前景，尤其是在醫療、交通、金融、教育等領域的應用，為我們帶來更多的便利和改變。但同時，我們也需要研究和探索人工智能的安全性和可靠性，在發展人工智能內容生成技術的同時，對人工智能領域進行深度治理。
安全可信是人工智能治理的核心訴求。打造安全可信的人工智能，要求其技術和系統應具有強健的安全性能，避免因異常操作和惡意攻擊而導致安全事故，而利用人工智能技術生成的內容也應當真實準確；同時，用于訓練人工智能的數據是機構和個人的核心資產之一，要保護用戶數據不被泄露，保護好用戶隱私，及時處理工具漏洞；人工智能技術、產品的行為和建議應當是可解釋的。
人工智能技術的開發和應用需要遵循基本的價值理念和行為規范。ChatGPT出場不久，就在世界范圍內引發了各種倫理問題的擔憂，學術不端、創意剽竊、知識產權侵犯等現象屢屢發生，我們需要制定相關治理原則和倫理規范，減少使用人工智能技術帶來的社會和倫理風險。同時，在社會和文化價值觀方面嵌入治理，實現更有預見性的人工智能治理，實現敏捷治理，以靈活、及時、有效的手段化解人工智能帶來的各種倫理挑戰，確保其在科技向善的道路上行穩致遠，實現良性發展。
治理體系和能力的迭代優化。人工智能發展的特點之一表現為技術進步的速度超過治理體系和能力更新的速度，這也要求我們的治理體系和能力要不斷創新，在用好技術治理手段的同時，構建政府、企業、公眾等多主體參與，應用多維治理工具的人工智能綜合治理框架體系，形成價值共識、多主體分工協作、治理理念迭代優化的創新治理模式。
科學發展的本真應是造福人類，人類社會需要的是能夠健康和可持續發展的人工智能，這也是全球開展人工智能治理的目的。
