人工智能的迅猛發展，正深刻地改變人類社會。
早在1942年，著名科幻小說家阿西莫夫在《環舞》中提出了“機器人三原則”。第一法則：機器人不得傷害人類。第二法則：服從人類的命令。第三法則：盡可能保護自己。
作為引領未來發展的戰略性技術，人工智能的法律邊界在哪里？立法者是否也能如阿西莫夫一樣制定一個“機器人三原則”？
今天上午，市十五屆人大常委會第44次會議表決通過了《上海市促進人工智能產業發展條例》。條例于10月1日起實施，這是人工智能領域的首部省級地方法規。
市人大常委會法工委主任閻銳表示，此次立法立足于促進法的基本定位，注重創新性和引領性，充分發揮有效市場和有為政府的作用，采取各種激勵措施推動人工智能產業高質量發展。這也是上海繼《上海市數據條例》后的第二部數字經濟領域地方法規，將有力支撐城市全面數字化轉型，助力建成具有國際影響力的人工智能“上海高地”。
這是一部產業促進立法
美國學者約翰·弗蘭克·韋弗2013年出版了《機器人是人嗎》一書，該書提出了人工智能時代一個非常重要的命題，當人工智能的獨立決策達到相當高度時，誰該對其行為負責？是否需要賦予人工智能有限的法律人格？
值得注意的是，此次立法的名稱不叫“人工智能條例”，而是“促進人工智能產業發展條例”，立足點是促進產業發展。“從國際上看，目前還沒有一個單獨對人工智能進行立法的國家，因為人工智能立法太難、太新了。”市人大財經委立法監督處處長張震說。
比如，機器人是否屬于智能人，該承不承認它的法律地位，目前還沒有任何一位科技專家說得清楚；再比如，人工智能技術會產生行為后果，在設計自動駕駛系統時，如果在緊急情況下不得不發生碰撞，系統應選擇保護車上的人還是保護路人？
“這些問題都值得探討，但這不屬于地方立法權限，在地方立法層面是很難針對‘人工智能’進行規制的。”張震表示。
雖然“人工智能”本身難以規制，但人工智能的產業已經蓬勃發展起來了。所以，上海這部法，抓住人工智能產業剛剛崛起的這一戰略機遇期，從產業促進的角度予以立題，是一部產業促進立法。
允許試錯的“科學家條款”
數據顯示，上海人工智能產業規模近年來持續壯大，2021年人工智能規上產值3056.8億元,同比增長17.2%，是2018年的2.28倍；人工智能賦能百業的價值紅利正加速顯現。上海的愿景是，力爭到2025年，基本建成更具國際影響力的人工智能“上海高地”。
人工智能作為新興的產業領域，創新是其突出的特點。審議中，委員們認為，作為一項產業促進立法，應該鼓勵科技創新，給予各類研發機構和市場主體充分的創新空間。
記者注意到，此次立法專設“激發創新活力”的規定，鼓勵市場主體積極創新，并明確有關部門要根據人工智能的特點對相關的監管規則、標準進行相應地制定、修改或廢止，建立人工智能領域輕微違法行為免罰清單，從而最大限度地激發創新活力。
閻銳表示，對于人工智能等處于探索發展階段尚未定型的新業態新模式，需要創造具有靈活性、包容性的發展環境，允許一定的制度探索和試錯空間。
“這是一條科學家條款。”張震表示，此前市人大赴上海人工智能研究院、上海期智研究院進行立法調研，從事ai研究的科研工作者最大的苦惱是，“沒有任何一個機構，任何人，能夠告訴我們能夠做什么，不能做什么，往往是事情做好披露以后，才有人告訴我們，你們這個做錯了！”
建人工智能領域輕微違法行為免罰清單，就是對科學家顧慮的一個有力回應。如果人工智能促進法不能給科學家解綁的話，人工智能產業的創新活力也將很難激發。
保障中小企業獲得普惠的公共算力
數據、算法、算力是新一代人工智能發展的三要素，而算力不足是很多研發機構和中小企業在現實中遇到的瓶頸問題。
此前審議中就有委員建議，通過立法共同推進公共算力資源平臺建設，通過提供易得、優惠、高效的公共算力支持，保障各類研發機構和中小企業等能獲得普惠的算力資源。
記者注意到，條例明確，市經濟信息化部門應當會同市發展改革、科技等部門制定公共算力資源供給辦法，推動公共算力資源平臺建設與利用，加強算力科學調度，通過算力獎勵等方式，為人工智能技術與產業發展提供公共算力支持，保障中小企業獲得普惠的公共算力。
上海條例與深圳相比一大亮點，在于其促進基礎要素的流通、使用和運營，在此過程中推動相關主體的權益保護，從而更好地調動激發市場活力。閻銳表示，這次立法推動算法模型交易流通，加強對算法模型的保護；突出人工智能領域高質量數據集建設，擴大面向人工智能產業的公共數據供給范圍。
記者注意到，這次立法思路對《上海市數據條例》有所借鑒。例如在人工智能資產評估方面，沿襲了數據條例中數據資產評估的思路，算法模型和算力資源的交易流通，也借鑒了數據交易與流通的規定，是對數據流通、交易、資產評估的銜接與突破。
設倫理專家委員會，明確行為底線
人工智能具備硬幣的兩個面：有利的一面，不利的一面。“在促進應用的同時，我們還要規避一個情況，就是ai可能對整個人類發展產生那種顛覆性的負面的那一面。”張震說。
人工智能具有技術屬性和社會屬性高度融合的特點，立法遇到的問題比如復雜，比如腦機接口能提升短期記憶力，卻可能侵犯人格權；自動駕駛車輛遇上危險，算法該如何應對；外賣平臺要兼顧好效率與騎手安全發展等。
立法者在發展和安全中間試圖找到一個平衡點。在這部法規的審議中，一個頻頻被提及的議題是：如何在鼓勵創新之余為人工智能劃定應用邊界？
記者注意到，此次立法兼顧人工智能產業發展與安全可控，明確人工智能產業發展相關行為底線，保障人工智能產業健康、安全發展。市經信委副主任張英表示，《條例》提出“以人為本、科技向善”發展原則，注重促進創新與防范風險相統一。一方面探索分級治理和沙盒監管，研究出臺高風險人工智能產品和服務清單等。另一方面成立人工智能倫理專家委員會，促進人工智能產業在規范中發展，在發展中規范。
這也是此次立法的一大創新亮點，條例明確設立人工智能倫理專家委員會，發揮其在人工智能領域倫理規范方面的作用。其履行的職責包括制定倫理規范指南、推動參與國內外人工智能領域倫理重大問題研討和規范制定;對涉及生命健康、公共安全等重點領域人工智能應用的潛在風險開展評估等。
立法確立了人工智能產品和服務的行為底線，明確相關主體開展人工智能研發和應用，應當遵守法律、法規規定，增強倫理意識，并不得從事相關禁止行為。比如禁止提供危害用戶人身或者財產安全、侵害個人隱私或者個人信息權益的產品和服務；禁止利用算法技術實施價格歧視或者消費欺詐等侵害消費者權益的行為，實施壟斷或者不正當競爭等行為等。
