5月20日下午，由上海市倫理學會主辦，華東師范大學法學院與華東師范大學哲學系倫理與智慧研究中心共同承辦的第23屆上海市社會科學普及活動周·圓桌論壇在華東師大舉行。本次論壇的主題為“人工智能治理中的倫理與法理”，100多位來自復旦大學、上海交通大學、華東師范大學、華東政法大學、上海師范大學、上海社會科學院等院校的專家學者和師生參加研討，5000多名觀眾在線參與論壇。
論壇開幕式由華東師范大學哲學系教授、上海市倫理學會副會長兼秘書長付長珍主持。她指出，新一代人工智能正在全球范圍內蓬勃興起，并在深刻改變著人類的生產與生活方式。人工智能技術的變革在增進人類福祉的同時，也向人類社會發起了一系列新挑戰。針對人工智能治理中出現的非常態事件和應急倫理難題，亟需跨學科、跨領域深度聯合應對。
華東師范大學法學院院長張志銘教授在開幕式上致辭。他指出人工智能正在迅猛發展并作為新質生產力和新業態推動了社會各領域的升級。他強調人工智能治理的復雜性需要跨學科協作來應對，哲學與法學的結合可以使治理問題的探討更為深入。現有研究多將人工智能視為法律關系的客體，但強人工智能可能需要新的法律主體框架。他特別指出，人工智能法治研究不能只熱鬧而無深入，這樣只會導致學術上的劣幣驅逐良幣。簡單的人類中心主義無法解決監管困境，需平衡人類安全與技術發展。
復旦大學特聘教授、科技倫理與人類未來研究院院長、全國應用倫理專業學位研究生教育指導委員會主任王國豫在致辭中說，倫理與法理的關系是哲學史上彌久不衰的主題，在今天的人工智能時代，這個問題變得更加迫切，更具有現實意義。倫理、法律和社會問題需要置于同一個框架下進行深入討論。
上海市倫理學會會長、復旦大學特聘教授高國希代表主辦方上海市倫理學會致辭。他說，倫理與法律都是社會調節的方式，是一個社會占主導地位的價值追求的兩種不同形態，法學與倫理學以問題為中心的聯合攻關具有重要的意義。此次法學院與倫理學會的深度交流合作，也是服務于國家戰略、推進知識創新的重要舉措。
人工智能迅猛發展帶來諸多挑戰
主旨報告環節由華東政法大學法律學院教授、人權研究院院長、《法學》主編胡玉鴻教授主持。三位來自不同領域的知名學者分享了他們的研究成果。
上海交通大學中國法與社會研究院院長季衛東表示，自2022年11月以來，生成式人工智能的迅猛發展帶來了諸多問題。AI的國際化資源和知識拓展了法律選擇空間，但也帶來了新的倫理和法律風險。季衛東建議，在大模型時代AI治理應采用多層次、多元化的法律規范平衡安全與發展，以確保AI系統的目標與人類價值觀一致。
上海社會科學院哲學研究所研究員、副所長成素梅在“人工智能算法系統的歸責困境”這一主題的匯報中探討了算法系統帶來的倫理挑戰。成素梅指出，算法系統的非線性和復雜性以及開放源碼特性，使得傳統的因果追溯與責任歸屬機制面臨挑戰。復雜算法系統中的“暗知識”不僅加劇信息繭房效應，還可能導致算法錯誤難以預見。算法系統的普遍應用可能掩蓋勸導意圖，使人處于不利地位。面對AI帶來的沖擊，需要從工具主義向互動主義技術觀轉變，創建有擔當的倫理學。
中國社會科學院哲學研究所科技哲學研究室主任段偉文研究員提出當前有關AI倫理風險的認知往往具有猜測性與隱喻性等特征，模糊了我們對AI風險的真實感知，還可能導致AI倫理討論陷入“倫理漂白”“倫理炒作”與“倫理空轉”之中。目前有關AI倫理風險的刻畫主要基于“隱私”“歧視”等語詞表達，而在語義空間中，這些概念與詞匯的固定聯系，限制了我們對AI風險動態性的理解。由此，他借助突變理論/災變論模型，提出了關于AI風險“認知－干預”的新視角。
重建人機共生的新型倫理關系
專題報告一環節由華東師范大學哲學系副教授、副主任郁鋒教授主持。四位來自不同領域的知名學者分享了他們的研究成果。
復旦大學科技倫理與人類未來研究院教授楊慶峰表示，盡管強人工智能曾被認為只是科幻領域的話題，但技術進步使這一話題的現實性大大提升。楊慶峰勾勒了實現超級智能的三條進路：從通用智能走向超級智能、從具身智能走向超級智能、從交互智能走向超級智能。面對超級智能可能帶來的挑戰，他分析了作為技術應對的對齊方法，并指出這種方法可能存在的價值化誤解和技術化誤解。作為一種倫理應對之策，他提出了一種“合約倫理”，認為未來我們與超級智能將處于一種在共存中的相互塑造和相互理解的倫理關聯中。
華東師范大學哲學系教授、《華東師范大學學報（哲社版）》常務副主編付長珍表示，隨著數智時代的降臨，人類文明正面臨前所未有之大變局。我們需要通過“究人機之際”來重建人機共生的新型倫理關系，重新認識人的本質，讓AI不斷朝著“適配人類價值觀”的方向發展并實現價值對齊，以實踐智慧追尋人工智能的統一理論與認知架構，創造具有自主的感知、認知、決策、學習、執行和社會協作能力，符合人類情感、倫理與道德觀念的通用智能體（AGI）。
華東師范大學法學院副教授王軍表示，人工智能在行政法中的應用仍處于政策實驗和規范醞釀階段。自動化行政審批、全流程自動處罰機制等人工智能的廣泛應用在提高執法效率的同時，也帶來了新的法律挑戰。當前的討論，可選取“小切口、大關懷”的視角和教義學為主的方法開展研討，并在未來“人工智能治理的立法時刻”注重兼顧智能化與法治化、平衡發展與安全，確保在使用人工智能技術時，保護公民、法人和其他組織的合法權益。
華東師范大學法學院副教授陳肇新在探討“人工智能的法律增強”時指出，人工智能的興起為法律職業倫理和法律實踐帶來了新的挑戰，他提到了法律增強的概念，即通過人工智能技術幫助法律人克服認知和情感偏見，優化法律決策過程。他還認為，人工智能不僅能輔助法律預測，還能在提升法律認知和決策水平方面發揮重要作用，但應注意保持法律的規范性和獨立性。
探討在倫理和法律領域的問題
專題報告二環節由華東師范大學學報期刊社副編審、副主任胡巖主持。四位專家學者共同探討人工智能在倫理和法律領域的前沿問題。
上海交通大學數字化未來與價值研究中心教授閆宏秀在探討“價值對齊是人類通往未來的‘必經之路’嗎？”時認為，人工智能的發展需要進行價值對齊，但價值對齊進程中常常出現幻覺、越獄、欺騙性對齊等現象，“對齊”最好被理解為“聯盟”或者“相互校準”的過程，而二者的聯盟實際上是我們對人類在人機關系中占主導地位的一種期望。
華東師范大學法學院副教授、副院長段磊在探討“投資領域中運用人工智能的法律困境”時，強調了人工智能在法學中的實用性，同時也以商法為例分享了在法學中運用人工智能遇到的法律挑戰。段磊介紹了一家公司利用人工智能工具進行投資決策的實例，在弱人工智能時代，人工智能還只是自然人董事進行經營決策的輔助工具，只要章程中沒有禁止規定自然人董事就可以將部分決策事項授權給人工智能進行決策，甚至在必要的時候為了公司利益的最大化，自然人董事還負有讓人工智能進行決策的義務。
南京信息工程大學副教授、華東師范大學博士后崔中良在探討“生成式人工智能作為敘事主體的社會風險及治理”時指出，人工智能的自主性、復雜性，以及人們對人工智能主體的接受和信任伴隨人機交互中的相互成長，正在證明生成式人工智能有可能成為敘事主體。這一現象將帶來個體、組織和社會層面的風險。對此，他提出了三方面的治理建議：確保人類主體性、限制人工智能在特定領域的應用，以及培養自我反思能力。
華東師范大學法學院副教授、副院長李帥在探討“人工智能是可稅主體嗎？”時，討論了歐盟2016年的建議，指出AI替代人類勞動可能導致稅收減少和社會保障體系的挑戰。通過具體案例，他演示了AI對企業稅收的影響，并分析了對AI征稅的可能性。他建議將AI使用視為可稅行為或直接對其所得征稅，這需要在法律和技術層面進一步探討。
如何確立人的獨特性
會議進入評議環節，由五位專家進行深入點評。
美國肯庸學院教授、華東師范大學客座教授蕭陽重點評議了賦予人工智能和機器人道德或法律地位的問題。
華東師范大學哲學系教授蔡蓁在評議中探討了人工智能時代如何確立人的獨特性。她認為，道德哲學中的“理性”概念具有自我立法的內涵，人類意志也具有反思性的結構并遠比現在討論的人工智能層面的理性概念豐富得多。
華東師范大學哲學系教授潘斌在評議中認為，人工智能從倫理倡議到法律規制之間有一個重要的邏輯進路，即如何使得人工智能更具有可解釋性。從人工智能的立法必要性而言，AI的透明性、可解釋性是立法的前提，但AI本身的復雜性、知識產權保護的必要性以及專業性限制了算法的透明性與模式的可解釋性。
河南財經政法大學經濟理論研究中心副主任酈平教授指出，隨著人工智能技術的快速發展和廣泛應用，讓人工智能讀懂人類的價值觀并實現實時雙向人機價值對齊，已成為備受關注的研究領域。如今，許多研究團隊和專家都提出讓AI的價值觀與人類的價值觀對齊，但這一過程中存在諸多問題，如何根據具體場景選擇適用的倫理原則，是一個需要繼續深入研究的重要議題。
華東師范大學哲學系副教授王韜洋在評議中認為，強人工智能的到來對倫理與法律構成了兩個挑戰，首先強人工智能的階段對倫理學本身以及法學本身提出了挑戰，其次是人類對人工智能有超高的要求。
閱讀原文
記者丨胡思華
來源丨東方教育時報公眾號
編輯丨王藍萱
編審丨戴琪
更多閱讀：
上海法治報丨專家學者齊聚華東師大研討人工智能治理中的倫理與法理
