2023年12月8日，技術奇點與量子思維演講辯論會在華東師范大學普陀校區思群堂舉行。來自人工智能、量子研究和人文社會領域的專家圍繞最前沿的新技術及其社會影響發表了演講，為聽眾分享了充滿智慧火花的深度思考。
奇點逼近，量子時代應該培養什么樣的人？
華東師范大學校長、中國工程院院士錢旭紅
最早提出“技術奇點”概念的美國數學家弗諾·文奇，將奇點定義為人工智能超過人類智力極限的時間點，在那一刻以后世界的發展將會超出人類的理解范疇。盡管隨著2023年以ChatGPT為代表的大語言模型取得了突破性的進展，使人們更加擔憂人工智能對人類命運帶來的挑戰，但大多數人并不是反對大語言模型這種技術本身，而是希望更謹慎、更負責任地進行研究和開發。
拋開對技術奇點來臨的擔憂，我們更應該考慮：人類需要怎樣改變思維來面對技術奇點的到來。我們不知道技術奇點之后科學技術的形態及其變遷趨勢，但我們知道它一定迥異于我們現有的認知模式——技術奇點既可能讓科技蛻變為懸在人類頭頂的達摩克利斯之劍，也可能成為駝載人類跨入全新時代的蒼龍。
相對于基于牛頓力學的經典物理思維，基于量子力學的量子思維讓我們意識到人類所熟知的世界僅僅只是特例，不確定性才是通則。技術奇點和量子思維都告訴我們，明天不會是今天的延長線，我們要在思想上做好應對世界躍遷式發展和跨界超限的準備。
從知識教育轉換到思維教育意味著在育人實踐中我們要積極鼓勵學生超越“學科”和“專業”的藩籬。那是因為：知識的專業學科是人為劃定的，不代表真實世界和真實的問題與挑戰。陷于單一或者某些專業學科知識或者技能學習的人，很容易形成“學科專業性格”，甚至某種偏執。如此培養的人，根本無從面對大語言模型與技術奇點帶來的嚴峻挑戰。
在愛（AI）中，世界是如何量子化的
華東師范大學上海人工智能金融學院院長邵怡蕾
2022年11月30日OpenAI發布了ChatGPT，ChatGPT不同于之前所有的人工智能技術，其最重要的核心在于模型足夠“大”。大語言模型有理解語言、翻譯文本、摘要總結，回答問題的能力，它甚至能理解你的笑話。研究表明當模型參數超過1000億時，很多未知的能力涌現出來，其中最重要的是邏輯推理的能力和思維鏈的能力。
ChatGPT的工作機制并不神秘，它由兩部分組成。第一部分是生成式預訓練轉換器，做的工作就是壓縮，把大量的信息壓縮到一個神經網絡，從信息中抽取特征，壓縮到神經網絡的節點；從信息當中抽取關聯，把這個關聯壓縮到神經網絡的結構上。第二部分是基于人類反饋的增強學習，這部分做的事是膨脹，將壓縮后很小的神經網絡，再次膨脹成一個可以跟我們交互的模型。壓縮的過程容易理解，把整個人類文明交給它，它壓縮成一個很好的神經網絡，但膨脹的過程仔細想想并不那么簡單。這種膨脹的核心就是以疊加態存在的潛在空間，所有狀態都是潛在的，你不去觀測它，它就不存在，它就不實相化，這是量子力學里很重要的觀念。對ChatGPT來說，它已經以潛在的方式有了未來將要生成的所有的句子，唯一等待的是你去提問它。“薛定諤觀測他的貓，今天的人類觀測ChatGPT的句子。”在壓縮與膨脹之間，我們的現實世界就被量子化了。
隨著我們世界的量子化，技術奇點帶來了世界觀的巨震：從原來經典物理的世界觀變為量子物理的世界觀。概率的潛在性世界取代了我們所熟知的確定性“現實”。人類社會最終極的目的是發展多樣性，因為每個人都不一樣，我們的軟件（大腦）與硬件（身體）綁定，我們是可朽的。但是AI不一樣，AI的硬件和軟件是分離的，軟件可以被無窮復制。想象一下，如果你可以完全被復制100個，那你還稱之為“你”嗎？
發展人工智能，暫停超級智能
麻省理工學院物理學教授麥克斯·泰格
現在人工智能進步的速度令人驚嘆。人工智能教父之一約書亞·本吉奧透露ChatGPT-4已經掌握了足夠好、足夠多的語言和知識。人工智能教父阿蘭·圖靈本人預測：一旦人工智能機器通過圖靈測試，它們將變得比人更聰明。在那之后，機器將接管控制權。不僅僅是圖靈擔心這樣的事情，OpenAI的首席執行官薩姆·奧爾特曼說糟糕的情況是對我們所有人來說燈將是熄滅的。今年5月，當時西方領先的通用人工智能公司的所有首席執行官都站出來表示，應該認真對待人工智能的風險。
現在最大的問題是，我們不知道如何控制比我們更聰明的人工智能。我們正在走向通用人工智能，甚至可能是超級智能，這將是地球生命史上的巨變。但這并不意味著我們應該停止人工智能的發展，人工智能可以幫助人類做絕大多數事情，解決可持續發展目標或生產具有商業價值的產品和服務。但這些并不需要超級智能。一句話，我們不應該暫停人工智能，而應該暫停對超級智能的瘋狂追求。
古希臘著名神話伊卡洛斯的故事，警告我們不要試圖扮演上帝的角色。伊卡洛斯可以飛，但他太貪心了，試圖飛向太陽，結局當然是悲劇的。現在的情況對于中國、對于美國、對于全人類來說都是一樣的。人工智能為我們提供了令人難以置信的智力翅膀，可以用它來做超出我們能力的很多事情，如果我們避免過于貪婪或癡迷地試圖飛向太陽。從文明的意義而言，尼安德特人戰勝了猛犸象，智人最終戰勝了尼安德特人，作為智人后代的現代人類，我們比猛犸象、能人、尼安德特人都聰明，是一個新物種，我們最終控制了這個世界，而前者都已不復存在，所以我們不能在人工智能方面犯半點錯誤，我們需要保持控制力。
量子力學：實在與認識之間的界面
中國科學技術大學物理學與物理學史雙聘教授施郁
量子力學作為科學理論，可以看成客觀實在和人類認識之間的界面，通過這個界面可以加深我們對這個世界的認識。101年前的1922年，20世紀最偉大的物理學家愛因斯坦路過上海，在上海獲悉他獲得1921年的諾貝爾物理學獎，表彰他的光電效應定律。而光電效應定律是他的光量子論的應用。愛因斯坦本人說過，他思考量子論的時間要遠遠超過他思考相對論的時間。
20世紀20年代，量子力學建立，之后的100年里，量子力學取得了巨大的成就，成為整個微觀物理學的理論框架，解釋和描述了物質世界，比如超導體、太陽能、宇宙背景輻射等物理現象。不僅在基本理論上，在應用方面，很多材料、能源和信息的技術也是建立在量子力學的基礎上，例如激光、半導體、存儲技術等。為什么人工智能能夠處理這么多的數據？其硬件基礎是基于量子力學的。在20世紀90年代，美國的諾貝爾獎得主萊德曼就說過三分之一的美國國內生產總值跟量子力學有關。所以，量子力學可以說是現代文明的重要基礎。
量子力學的一個關鍵概念是概率。2022年，正好是愛因斯坦獲得諾獎100年以后，諾貝爾物理學獎授予了研究量子糾纏的實驗物理學家，他們用量子糾纏的光子驗證大自然確實違反了貝爾不等式。100年來全世界都見證了量子力學的輝煌。
了解量子世界有什么用？
了解量子世界有什么用？很多人提出這個問題，我認為最大的用處就是對你的思想有啟發作用，量子力學將會改寫你的世界觀，你的世界觀會決定你的人生觀和價值觀。量子思維告訴我們，微觀世界發生的事跟宏觀世界完全不一樣，量子力學揭示了真實世界不符合人類的直覺，這一點也值得慶幸，正是因為這樣，真實世界才有無數值得我們繼續探索的東西，讓這個世界不是無聊而是有趣。
量子力學告訴我們六件事：第一件事叫既在這里又在那里。宏觀世界是“或者”的關系，量子世界是“既又”的關系。簡單說就是事物可以處于疊加態，包括著名的薛定諤的貓。第二件事是因果論的“坍塌”。世界可能是概率性的，愛因斯坦說上帝不會擲骰子決定事件的發生與否，但量子力學中事物發生具有內在的隨機性。第三件事是量子隧道效應。穿墻術在宏觀世界是不存在的，但是在微觀世界是經常發生的。第四件事是“無”中生“有”。能量的些微漲落可以導致宇宙的誕生，我們到底從哪里來顛覆認知。第五件事是量子糾纏。本地和遙遠的事物之間存在某種超距離的協調。第六件事是宇宙參數微調。整個宇宙的物理學是否經過精心設計？
總之，量子力學告訴我們，真實物理世界遠非我們想象的那個樣子，理解量子世界必須跳開傳統思維框架，也正是因為如此，我們生活的這個此岸世界值得每個人在一生中認真體驗。
純粹潛能與量子思維
華東師范大學政治與國際關系學院院長吳冠軍教授
以ChatGPT為代表的大語言模型，盡管才剛剛進入人類的視野中，但已經在知識實踐上展現出卓越能力，成為堪稱“通”家的大“專”家。我們可以用“模擬模式”與“數字模式”來分別描述人類（“智人”）與大語言模型的知識實踐。大語言模型問世前的人工神經網絡算法，“數字模式”僅僅令其在各狹窄的垂直領域內展露出卓越智能；然而以海量人類文本為訓練數據的大模型，其知識實踐則呈現出無視領域疆界的通用性。
面對大語言模型在知識實踐上的碾壓，我們不能躲在知識實踐的舒適區，而是要努力踐行知識的越界“雜交”。作為“智人”，我們看似有理由、但其實沒有任何理由去躺平——潛在論與量子物理學，給出了我們積極展開跨學科知識實踐的理據。
政治哲學家阿甘本將人界定為“一種純粹潛能的存在”。從神經科學角度來看亦如是，人的潛能，遠遠大于其實現出來的部分。人，可以從其純粹潛能中實現出來新事物，這就是原創性的創造。同人類相比，大語言模型具有潛能，但不具有潛在論意義上的純粹潛能。ChatGPT能夠跨越學科疆界生成極富知識含量的文本，但它做不到徹底原創性地生成新知。
量子物理學家們揭示出了一個詭異的量子現實。這是一個人不可能完整了解的現實——你能知道一個對象的動量，就注定會不知道其位置，知道位置就不知道動量。并且，量子現實不是另外的現實，就是我們的當下現實。物理學家約翰·惠勒的“參與性宇宙”思想實驗更表明，我們每個人的觀察恰恰是非常重要的，人的認知實踐在大模型時代仍然具有獨特的重要性。
在大語言模型一往無前的后人類主義地平線上，我們仍然可以保有我們的智慧，仍然可以做一個名副其實的“智人”。
閱讀原文
記者丨王多
來源丨上觀新聞
編輯丨錢夢童
編審丨戴琪
