(相關(guān)資料圖)

我們需要操作性定義。撰文 | 顧凡及（復(fù)旦大學(xué)生命科學(xué)學(xué)院）2019年年底，卡爾·施拉根霍夫博士（Karl Schlagenhauf）與我合作出版了一套三卷本《腦與人工智能》系列套書[1-3]。我們兩位作者成長于完全不同的文化，且素未謀面：卡爾是一名對腦感興趣的德國信息技術(shù)工程師和企業(yè)家，而我是一名對人工智能（AI）懷有興趣（雖然是名外行）的中國大學(xué)的腦科學(xué)教授和科普作家。2013年初，一位共同的朋友，神經(jīng)科學(xué)家漢斯·布勞恩（Hans Braun）教授介紹我們相識，此后我們就一直不斷通信，討論腦研究和AI方面的一些開放問題、現(xiàn)狀評估和發(fā)展趨勢，討論怎樣看待兩者的關(guān)系以及媒體有關(guān)這些領(lǐng)域的“吸睛”報道，直至討論科學(xué)方法論和相關(guān)的科學(xué)組織。這套書就是我們的重要通信記錄集合，即使不說是絕無僅有的話，也還是很獨特的。

《腦與人工智能》系列，上海教育出版社2019年我們這樣極其不同的兩個人得以維持并不斷加深友誼，源于對腦科學(xué)和信息科學(xué)交叉領(lǐng)域的共同興趣。并且，我們都喜歡理性思考的方法，而且總是渴望追究事物的原因和理由，而不是隨大流或囿于學(xué)究式的思維。由于經(jīng)歷的不同，我們的觀點也有明顯差異，這時我們會發(fā)揚科學(xué)爭論的古老傳統(tǒng)來尋求解決。在某些問題上，我們達(dá)成了共識，而在另一些問題上仍然存在分歧，甚至還有某些問題根本就找不到答案。一些新進(jìn)展支持了我們兩人或者其中一人的看法，并鼓勵我們進(jìn)一步討論。一些進(jìn)展甚至超出了我們最好的期望，或者提示我們或其中一人的觀點錯了，因此我們不得不重新考慮，并從錯誤中吸取教訓(xùn)。所有這些都激發(fā)了我們的熱情，重新聚焦要討論的問題，并不斷開啟新的爭論。這些爭論并非是要壓倒對方以顯示自己的高明，而是為了探索事實的真相。對我們來說不幸的，同時也是幸運的，是這套書的出版時機(jī)——2019年底。在接下來的三年多時光中，人類遇到了兩件大事——橫掃世界的新冠大流行和ChatGPT橫空出世——這都是我們當(dāng)初交談時未能預(yù)見到的。這些事無疑分散了讀者對我們書的注意，同時也是對我們書中主要思想的嚴(yán)苛考驗。在此期間，在腦研究和信息技術(shù)的交叉領(lǐng)域中也發(fā)生了一些引起轟動的事件——雖然不能和上述兩件大事相提并論——如馬斯克的神經(jīng)聯(lián)結(jié)（Neuralink）腦機(jī)接口和霍金斯（Jeff Hawkings）的“千腦智能”理論。而引發(fā)我們討論的歐盟人腦計劃也即將到期，是非功過都到了將要蓋棺論定的時候。令我們感到寬慰的是，雖然我們像絕大多數(shù)人一樣，未能預(yù)見到新冠大流行和ChatGPT這樣的具體事件，但是回顧當(dāng)初書中對腦研究和AI中存在的開放問題、現(xiàn)狀評估和發(fā)展趨勢的總體看法并沒有重大失誤。2023年5月21日，我們這套書被授予“2022年上海科普教育創(chuàng)新獎成果獎（圖書類）”一等獎，可以看作為社會公眾和專家對我們這些觀點某種程度的肯定。在這樣的特殊時刻，翻出2018年年中三本書剛剛脫稿時我自己記下的“幾個開放問題”和“幾點預(yù)期”，看看當(dāng)時的這些認(rèn)識是否經(jīng)得起這五年里驚濤駭浪的考驗，還是很有意思的。當(dāng)然，這并非說我們的看法就一定都對，我們寫那套書的目的并非是給讀者什么定論，而只是提出問題，擺出自己的觀點和論據(jù)，重要的是希望引導(dǎo)讀者加入我們的思考和討論。即使完稿已是五年前的事，今天再重新審視這些問題并仔細(xì)思考，依舊不算過時。下面列出的內(nèi)容不管是對是錯，都是當(dāng)時的原話。幾個開放問題1. 腦究竟是一種信息處理系統(tǒng)還是一種提取意義的機(jī)器？2. 腦的功能基元是什么？（離子通道？突觸？神經(jīng)元？功能柱？…）3. 對非陳述性記憶所得的研究結(jié)果可以都推廣到陳述性記憶嗎？4. 腦中的計算是什么意思？神經(jīng)元能進(jìn)行圖靈意義下的計算嗎？5. 智能是什么？智能與技能，智能與學(xué)習(xí)能力的關(guān)系究竟是什么？6. 意識和意識的內(nèi)容是一回事，還是兩回事？7. 查默斯的“意識困難問題”是意識研究的瓶頸還是一個偽問題？8. 從原則上來說是否有可能做到心智上傳？9. 有沒有自由意志？如何解決自由意志和決定論的矛盾？10. 大型腦計劃能解決的問題和不能解決的問題。11. 是否有可能對全腦進(jìn)行逆向工程來揭開腦的奧秘，和解決人工智能的終極問題？12. 工程是否應(yīng)該或可能復(fù)制大自然進(jìn)化的一切策略？有沒有腦樣計算（brain-like computing）？13. 人工智能與腦研究的確切關(guān)系是什么？14. 仿神經(jīng)芯片（neuromorphic chips）的前途如何？15. 機(jī)器翻譯能做到哪一步？16. 有可能在可預(yù)見的未來實現(xiàn)強(qiáng)人工智能嗎？如果能的話，應(yīng)該不應(yīng)該研發(fā)強(qiáng)人工智能？17. 有沒有“奇點”這一天？“奇點臨近”的話可信嗎？18. 在馮諾伊曼架構(gòu)下，靠增強(qiáng)計算機(jī)能力能實現(xiàn)腦的一切功能嗎？幾點預(yù)期技術(shù)將比腦科學(xué)發(fā)展得更快，但在可預(yù)期的未來，不會出現(xiàn)“奇點”。技術(shù)將從腦科學(xué)研究中尋求啟發(fā)，但是不能拷貝腦。這是因為大自然和工程師所采用的方法有根本性的不同。因此腦研究與工程技術(shù)依然會平行發(fā)展，但是會相互借鑒。建議把Brain-inspired的中文改為“腦啟發(fā)”代替“類腦”以避免誤解。“大科學(xué)，團(tuán)隊科學(xué)和公開科學(xué)”將在腦研究的基本數(shù)據(jù)搜集、臨床數(shù)據(jù)搜集、圖譜和研究工具開發(fā)方面取得顯著進(jìn)展，但是難望在建立腦科學(xué)的基本理論框架方面取得突破。極少可能實現(xiàn)“心智上傳”和通過“逆向工程”建立人腦的全腦模型。無論對腦科學(xué)來說還是人工智能來說，當(dāng)問題牽涉到心智、智能、意識等“內(nèi)心問題”時，面臨的共同瓶頸是“主觀性”，對此應(yīng)該問的問題不是“主觀性是怎么產(chǎn)生的？”而是它產(chǎn)生的“充分和必要條件”是什么？在后一問題上會有穩(wěn)步進(jìn)展，但是難望在可預(yù)期的未來得到解決。在極端需要節(jié)能的條件下，“仿神經(jīng)芯片”（neuromorphic chip）可能取得重要應(yīng)用。但是不能確定其是否能發(fā)展成新一代計算機(jī)系統(tǒng)。這將主要取決于有多少人愿意拋棄傳統(tǒng)計算機(jī)，而重新學(xué)習(xí)這新一代計算機(jī)的“生態(tài)系統(tǒng)”。有望在介觀層次上，對許多局部神經(jīng)回路的活動和機(jī)制研究上取得突破?；仡櫜畈欢辔迥昵皩懴碌摹伴_放問題”，提得并不系統(tǒng)，問題的大小和重要程度也參差不齊。其中一些，我已有了自己的判斷（有的已寫在上面的“幾點預(yù)期”中了），而對另一些則依然茫無頭緒。但這些問題至今依舊沒有公論，“開放”如故。在今天的短文中，不可能以上每個問題逐一詳細(xì)討論，但可以看看，我們當(dāng)初的主要預(yù)期是否能經(jīng)得起這五年驚濤駭浪般的考驗。書中那些兩人經(jīng)過爭論而取得共識的地方，卡爾說服我要多于我說服卡爾。最令我印象深刻的一處是卡爾的論斷：“物理學(xué)家特別是工程師在本學(xué)科中的表現(xiàn)優(yōu)于生命科學(xué)家，并且工程似乎是以指數(shù)速度發(fā)展，而神經(jīng)科學(xué)和醫(yī)學(xué)的發(fā)展則可能只是按線性發(fā)展?！币婚_始，對于我——一位腦科學(xué)研究者——來說，這話聽上去確實有些刺耳。但接著卡爾就舉出科技史上的大量案例，使我不得不承認(rèn)這一現(xiàn)實。實際上，新冠疫情和ChatPGT問世也可算是對卡爾論斷的明證：一邊是一種結(jié)構(gòu)簡單到甚至算不算生命都難說的病毒肆虐全球，帶來巨大的生命損失和經(jīng)濟(jì)損失，讓全世界最聰明的腦袋手忙腳亂，至今找不到萬全之策；另一邊，卻有人宣稱即將解開世界上最復(fù)雜的系統(tǒng)——人腦，可以在十年或幾十年里用計算機(jī)拷貝人腦。當(dāng)馬斯克戴著口罩在發(fā)布會上宣稱不久可以通過植入芯片使人腦和人工智能融為一體而成超人，一種巨大的諷刺感撲面而來。（我贊賞Neuralink在技術(shù)上的重大進(jìn)展，但它在思想上并無創(chuàng)新，而把人腦和AI融合起來打造超人則純屬迷思）[4]。與醫(yī)學(xué)的蹣跚形成鮮明對比的是計算機(jī)科學(xué)的一騎絕塵，在不足一個世紀(jì)里，從發(fā)明第一臺占滿整個房間的笨重電子計算機(jī)到ChatGPT橫空出世，機(jī)器通過圖靈測試已經(jīng)不是天方夜譚，當(dāng)我們和聊天軟件對話時，如果不事先想好，刻意設(shè)置圈套，確實難以分辨對方是人還是機(jī)器。多層次的腦：腦的各個層次相互影響，形成復(fù)雜的循環(huán)因果關(guān)系?？栐缇吞岢觯こ處煵粫哪X研究的結(jié)果中獲益太多，走他們自己的路并忽略生物模型會有更好的結(jié)果。這也是我一開始難于接受的。雖然現(xiàn)在依然有許多人宣傳人工智能的瓶頸在于不了解腦，只有拷貝腦才能取得實質(zhì)性的飛躍[5,6] ，但這五年來發(fā)生的一切證明并非如此。如果說神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)在開始時還有點受腦啟發(fā)的影子（感受野的多層次投射），那么其后ChatGPT的研發(fā)就完全是靠信息科學(xué)技術(shù)中的大模型和大數(shù)據(jù)了。相反，走拷貝人腦的路線，無論在闡明心智機(jī)制方面，還是在應(yīng)用上，迄今為止都沒有什么驕人的成就。歐盟人腦計劃早就拋棄了拷貝人腦的目標(biāo)，繼續(xù)馬克拉姆拷貝路線的“藍(lán)腦計劃”除了在神經(jīng)元（或許還在皮層柱）層次上取得了一些仿真腦組織的成就，并未在更高層次上實現(xiàn)任何認(rèn)知功能[5]。霍金斯的“千腦智能”理論，不僅在神經(jīng)基礎(chǔ)上站不住腳，在實踐上也依然是一紙空文[6]。已故的埃德爾曼模仿小腦所得的“仿腦機(jī)”（也就是達(dá)爾文機(jī)）雖然能在實驗室中自由穿越彎曲小徑，但今天真正在道路上行駛的無人汽車卻完全是機(jī)器學(xué)習(xí)的產(chǎn)物，與小腦毫無關(guān)系（當(dāng)然埃德爾曼的工作對認(rèn)識小腦機(jī)制有幫助）。當(dāng)然，我們的結(jié)論——“試圖在硅片上通過逆向工程建立一種生物腦并沒有太大希望”——還有待今后事實的進(jìn)一步考驗。五年來的事實一次又一次地證明：大型腦計劃“將在腦研究的基本數(shù)據(jù)搜集、臨床數(shù)據(jù)搜集、圖譜和研究工具開發(fā)方面取得顯著進(jìn)展，但是難望在建立腦科學(xué)的基本理論框架方面取得突破?！盵1]確實，歐盟人腦計劃的最大成就是建立起供神經(jīng)科學(xué)家共享的信息技術(shù)平臺，藍(lán)腦計劃及其合作方美國艾倫腦科學(xué)研究所的主要成就是發(fā)表了鼠腦各個腦區(qū)神經(jīng)元的分類圖譜，許多國家的腦計劃在連接組圖譜上取得進(jìn)展，所有這些也許能為將來的腦機(jī)制研究的突破提供基礎(chǔ)資料，但是它們本身卻并非是突破。正如陳省身教授所說,“科學(xué)上最偉大的發(fā)現(xiàn)都不是計劃出來的”。對于開創(chuàng)性的研究和發(fā)現(xiàn)，“我們想到的是充滿熱情的個人和小團(tuán)隊，就像小型研究快艇的船長及其船員，尤其是那些年輕的學(xué)生。”[1]不過，何時和何處會涌現(xiàn)出這樣的個人或小團(tuán)隊，極難預(yù)言。當(dāng)前AI研發(fā)界中有一個普遍的問題，就是混淆了腦功能中的第一人稱視角（主體審視其內(nèi)心活動的視角）的問題和第三人稱視角（第三者從旁觀察的視角）的問題。許多腦功能，特別是高級功能，尤其是心智，可以從兩種不同視角來看：第一人稱視角和第三人稱視角。前者如果要用一個詞來表達(dá)，可能叫“內(nèi)心活動”；后者如果也要只用一個詞來表達(dá)，可能就是“行為”。目前，“心智”還沒有一個公認(rèn)的確切定義，往往用其所涵蓋的內(nèi)容來說明。例如，維基百科的心智（Mind）條目中就是這樣描述的：“心智是一組認(rèn)知能力的總稱，其中包括意識、想象、感知、思考、判斷、語言和記憶，這些認(rèn)知能力來自腦（有時包括中樞神經(jīng)系統(tǒng)）。它通常被定義為一個實體的思想和意識的能力。它擁有想象力、識別力和欣賞力，負(fù)責(zé)處理感受和情緒，從而產(chǎn)生態(tài)度和行動?！盵7]第一人稱視角的內(nèi)心活動是主觀的、私密的，只有主體自己才能體驗，無法精確地分享給他人。第三人稱視角的行為是廣義的，包括一切可以觀察和測量的活動。心智所涵蓋的諸多方面同時具有這兩種維度，在日常生活中人們常常對這兩個方面混淆不清。有時用一個詞來混指這兩個方面，有時用不同的詞強(qiáng)調(diào)不同的方面，但是也沒有明確的公認(rèn)的分界線，這也是令我下筆時傷腦筋的一個問題。例如，情緒（emotion）往往是一種統(tǒng)稱，而感受（feeling）則往往指內(nèi)心感受，表情（expression）則明顯地只指情緒的外在表現(xiàn)；類似地，感覺（sensation）強(qiáng)調(diào)感官對刺激的反應(yīng)，可以客觀測量，而知覺（perception）則是對刺激的主觀體驗。當(dāng)然，一牽涉到意識，主觀性和私密性就更為突出——意識有沒有可以客觀測量的方面，現(xiàn)在恐怕還是一個見仁見智的問題。盡管人們提出“意識的神經(jīng)相關(guān)集合”聽上去似乎是可以客觀測量的，但是這只是“相關(guān)”；并且，如果沒有了主觀性和私密性，剩下來的還能叫意識嗎？這似乎也是個問題。到目前為止，我認(rèn)為，人工所能制造的都只能是從第三人稱視角來看的方面，也就是模仿行為，對于第一人稱視角的“內(nèi)心活動”，還一籌莫展。問題是人們常?；煜诉@兩者，把人工模仿的行為說成是成功“實現(xiàn)了人工的內(nèi)心活動”，于是一些人開始談?wù)摗叭斯ひ庾R”、“情緒機(jī)器”。至于司空見慣的“意念控制”（mind control），其實只不過是對腦信號的控制，這樣就會誤導(dǎo)公眾。當(dāng)然，我并非是斷定永遠(yuǎn)也不可能實現(xiàn)人工內(nèi)心活動。因為既然人腦有內(nèi)心活動，而人腦歸根到底也是一種物質(zhì)系統(tǒng)，那就沒有理由排除其他物質(zhì)系統(tǒng)涌現(xiàn)出內(nèi)心活動的可能性。我在這里強(qiáng)調(diào)的是，內(nèi)心活動是高度復(fù)雜的物質(zhì)系統(tǒng)在特定條件（我們只是不知道這種條件是什么，和系統(tǒng)要復(fù)雜到什么程度）下涌現(xiàn)出來的一種屬性，而非獨立于腦的存在。不過，到現(xiàn)在我們也還不知道究竟需要什么條件，才能涌現(xiàn)出“第一人稱視角的感受”。我們還不了解人所需的條件，更遑論了解人工系統(tǒng)的了。確實，從應(yīng)用的角度講，我們可以撇開第一人稱視角，而只討論從第三人稱視角看到的方面（也就是行為），并從這一角度給出某種操作性定義，這樣就不致產(chǎn)生混淆。例如美國天普大學(xué)計算機(jī)系王培教授給智能下的定義：在知識和資源不足的情況下依然能適應(yīng)的能力[8]。這就是完全從第三人稱視角描寫的智能的重要方面，無論對人類智能還是人工智能都適用。王培的定義已經(jīng)足夠廣泛，能描寫許許多多智能行為，并以此出發(fā)，建立他的納思AGI系統(tǒng)來解決實際應(yīng)用上的問題，這對于他的目的來說已經(jīng)足夠了。那么智能有沒有從第一人稱視角描寫的方面呢？我想也是有的，如“理解”。所以我極不贊成人工智能領(lǐng)域使用“自然語言理解”這樣的提法，我認(rèn)為現(xiàn)階段所做的只是“自然語言處理”。對當(dāng)前人工智能方面的研究，我以為，如果用了類似心理學(xué)（或心智哲學(xué)）上的名詞，那么應(yīng)該在一開始便開宗明義地給出一個操作性定義，排除掉第一人稱視角的方面。并且也不要把以后工作的結(jié)論用到和第一人稱視角有關(guān)的問題上去。在這一問題上，之所以不能把從第一人稱視角體驗到的現(xiàn)象“還原”到從第三人稱視角解釋得了的機(jī)制上去，根本原因是：前者發(fā)生在有極多層次的復(fù)雜系統(tǒng)的高層，且這些層次之間存在的并非簡單系統(tǒng)中的線性因果鏈，而是層次內(nèi)部以及層次之間存在互為因果的“循環(huán)因果關(guān)系”。長期以來，自然科學(xué)一直為基于線性因果鏈基礎(chǔ)之上的還原論所統(tǒng)治，正式提出“循環(huán)因果關(guān)系”還只是上世紀(jì)末的事[9]。在對這種因果關(guān)系有更深刻的認(rèn)識之前，希望解決人工“內(nèi)心活動”的努力，如果不是掛羊頭賣狗肉的話，也將很難實現(xiàn)。參考文獻(xiàn)[1] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《腦研究的新大陸：一位德國工程師和一位中國科學(xué)家之間的對話》系列叢書，上海教育出版社[2] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《意識之謎與心智上傳的迷思：一位德國工程師和一位中國科學(xué)家之間的對話》系列叢書，上海教育出版社。[3] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《人工智能的第三個春天：一位德國工程師和一位中國科學(xué)家之間的對話》系列叢書，上海教育出版社。[4] 顧凡及（2020）欲駕馭AI，先與AI共生：馬斯克的“超人”計劃能成功嗎？返樸，2020年8月12日[5] Fan X and Markram H (2019) A Brief History of Simulation Neuroscience. Frontiers in Neuroinformatics. 13(Article 32):1-28[6] Hawkins J (2021) A Thousand Brains: A New Theory of Intelligence. Basic Books.中譯本：霍金斯著，廖璐等譯（2022）千腦智能，浙江教育出版社。[7] https://en.wikipedia.org/w/index.php?title=Mind&oldid=911062349[8]王培（2022）智能論綱要，上?？萍冀逃霭嫔鏪9] Haken H (1996) Principles of Brain Functioning: A Synergetic Approach to Brain Activity, Behavior and Cognition. Springer.中譯本：哈肯著，郭治安、呂翎譯（2000）大腦工作原理：腦活動、行為和認(rèn)知的協(xié)同學(xué)研究。上海科技教育出版社本文受科普中國·星空計劃項目扶持出品：中國科協(xié)科普部監(jiān)制：中國科學(xué)技術(shù)出版社有限公司、北京中科星河文化傳媒有限公司

特 別 提 示1. 進(jìn)入『返樸』微信公眾號底部菜單“精品專欄“，可查閱不同主題系列科普文章。2. 『返樸』提供按月檢索文章功能。關(guān)注公眾號，回復(fù)四位數(shù)組成的年份+月份，如“1903”，可獲取2019年3月的文章索引，以此類推。版權(quán)說明：歡迎個人轉(zhuǎn)發(fā)，任何形式的媒體或機(jī)構(gòu)未經(jīng)授權(quán)，不得轉(zhuǎn)載和摘編。轉(zhuǎn)載授權(quán)請在「返樸」微信公眾號內(nèi)聯(lián)系后臺。

標(biāo)簽：