2020年10月31日上午9點(diǎn)，由上海交通大學(xué)馬克思主義學(xué)院科學(xué)史與科學(xué)文化研究院主辦，上海交通大學(xué)文科建設(shè)處資助的“人工智能、倫理與文化高端論壇”在上海交通大學(xué)閔行校區(qū)圖書信息樓9層會(huì)議室召開。上海交通大學(xué)馬克思主義學(xué)院科學(xué)史與科學(xué)文化研究院院長(zhǎng)李俠主持開幕式，上海交通大學(xué)馬克思主義學(xué)院黨委書記王震致歡迎詞。這次會(huì)議由國(guó)內(nèi)知名專家學(xué)者參與，主要圍繞人工智能、倫理與文化主題進(jìn)行了深入研究，借此契機(jī)探討新時(shí)代以科技史、科學(xué)技術(shù)哲學(xué)、科技倫理等為代表的新文科的發(fā)展趨勢(shì)。

中國(guó)自然辯證法研究會(huì)秘書長(zhǎng)、中國(guó)科學(xué)院大學(xué)尚智叢教授以人工智能到底能否解決道德問題為開端。指出道德產(chǎn)生的先決條件是自我意識(shí)，而認(rèn)識(shí)上的困境體現(xiàn)在缸中之腦思想實(shí)驗(yàn)中，人工智能在一定程度上亦是如此。缸中之腦最早來源于笛卡爾的我思故我在。作為主體的存在首先要有自我意識(shí)，針對(duì)自我意識(shí)才能談?wù)摰赖?。但是目前為止，人工智能尚未具備自我意識(shí)，因此無法談?wù)撊斯ぶ悄艿牡赖聠栴}。那么，人工智能如何講述道德問題？人工智能處理人類工作，而人的活動(dòng)內(nèi)含道德規(guī)范。機(jī)器在運(yùn)行中必然存在著道德規(guī)范，而規(guī)范設(shè)計(jì)來自人工智能背后的編寫者。那么到底預(yù)設(shè)怎樣的道德？倫理學(xué)家進(jìn)行多方討論，宗教道德難以應(yīng)用，世俗標(biāo)準(zhǔn)成為選擇。如果出現(xiàn)問題，即使用功利主義標(biāo)準(zhǔn)，那么大多數(shù)該如何定義？不同的歷史階段基于其發(fā)展而不同，目前是限定在群體價(jià)值上，而現(xiàn)在所追求的普世價(jià)值，其實(shí)就是限定群體價(jià)值。因此，當(dāng)談?wù)撊斯ぶ悄艿赖率鞘裁吹臅r(shí)候，其實(shí)是將程序編寫者都認(rèn)可的道德寫入人工智能。

上海交通大學(xué)杜嚴(yán)勇教授以人工智能向何處去為問題開篇，從政府、技術(shù)、公眾、關(guān)系四個(gè)維度進(jìn)行分析論述如何構(gòu)建友好人工智能。具體而言，在政府層面社會(huì)管理制度的發(fā)展進(jìn)步。首先應(yīng)加大人工智能對(duì)社會(huì)的影響研究；其次是努力實(shí)現(xiàn)人工智能時(shí)代社會(huì)的公平正義；第三加強(qiáng)對(duì)人工智能科技的監(jiān)管與調(diào)控。在技術(shù)層面，首先實(shí)現(xiàn)人工智能技術(shù)的安全性，可控性與穩(wěn)健性。其次人工智能算法、數(shù)據(jù)的公正性與透明性。第三是人工智能技術(shù)的人性化、倫理化研發(fā)與設(shè)計(jì)。公眾層面則需要做到觀點(diǎn)的調(diào)整與前瞻性準(zhǔn)備。第一是積極應(yīng)對(duì)人工智能對(duì)就業(yè)的影響；第二是人工智能威脅論及其克服；第三是思想觀念的調(diào)整。在關(guān)系層面則需要做到倫理與法律的與時(shí)俱進(jìn)。若是能做到如上四個(gè)維度則可能實(shí)現(xiàn)友好的人工智能。

北京大學(xué)周程教授提出，如果人工智能、科技史和哲學(xué)（科技哲學(xué)）都是一級(jí)學(xué)科后將會(huì)發(fā)生什么？學(xué)科門類的解決、自然科學(xué)基金的申請(qǐng)問題、人工智能在中國(guó)的大發(fā)展，這些都是我們將面臨的情境。首先是人才培養(yǎng)的問題，若是依靠現(xiàn)在的人才培養(yǎng)機(jī)制能否滿足人工智能的發(fā)展？第二，學(xué)院的建設(shè)是否需要？人工智能是一個(gè)典型的理工與人文互動(dòng)的交叉學(xué)科。那么，當(dāng)務(wù)之急是提早布局人才培養(yǎng)。雖然很多學(xué)科人才培養(yǎng)過剩，但是人工智能是一個(gè)新學(xué)科，那么對(duì)此人才需求量是會(huì)增加的。第三，人工智能學(xué)院的使命是什么？我們需要厘清人工智能到底是什么，如果還處于公說公有理婆說婆有理，那么很難發(fā)展，需要學(xué)界進(jìn)行清晰的界定。在如何實(shí)現(xiàn)人工智能上，直指方法論的問題。第四是如何開發(fā)人工智能，資源如何配置，這是政策問題。第五是如何應(yīng)用人工智能，這是價(jià)值論的問題。對(duì)于我們而言，現(xiàn)在需要解決定義問題，這是需要我們來回答的，否則人工智能無法走得更遠(yuǎn)。

中國(guó)科學(xué)技術(shù)大學(xué)徐飛教授認(rèn)為，從應(yīng)用的角度看AI是模擬、延伸和擴(kuò)展人類智能的一種高新科技。在醫(yī)學(xué)領(lǐng)域，AI的技術(shù)正陸續(xù)在智能診斷、醫(yī)學(xué)影像、數(shù)據(jù)挖掘、藥物研發(fā)以及健康管理等多個(gè)方面被廣泛應(yīng)用，給醫(yī)生和患者帶來效率和便利，但同時(shí)仍然有很多問題有待解決，其中最為突出的還是AI與人類智慧的差別，以及由這種差別導(dǎo)致的種種理論和實(shí)踐難題。徐教授主要從以下幾個(gè)方面進(jìn)行論述：體能、技能與智能；醫(yī)學(xué)AI中智能技術(shù)的由來；醫(yī)學(xué)AI未來能否取代醫(yī)生；醫(yī)學(xué)AI的哲學(xué)審思；走向人機(jī)一體智慧醫(yī)療新紀(jì)元。徐飛教授認(rèn)為，醫(yī)學(xué)AI作為人類智能增強(qiáng)性技術(shù)，本質(zhì)上依然具有工具的性質(zhì)。在大力發(fā)展醫(yī)學(xué)AI的同時(shí)，同步關(guān)注技術(shù)方案、應(yīng)用規(guī)范的倫理考量，及時(shí)開展技術(shù)風(fēng)險(xiǎn)及預(yù)期治理的哲學(xué)反思，將成為AI健康走向未來的必由之路。

中國(guó)科學(xué)院大學(xué)李斌教授認(rèn)為，目前對(duì)人工智能的討論更多的脫離現(xiàn)實(shí)情況從而進(jìn)入一種科幻情況。因此從“不對(duì)稱性”概念的引入來解決科技與倫理問題。為什么要引入這個(gè)概念，引入這個(gè)概念后是否存在不對(duì)稱現(xiàn)象，這個(gè)現(xiàn)象是由于科技的發(fā)展造成的。由不對(duì)稱戰(zhàn)爭(zhēng)引入不對(duì)稱的概念，然后從科技助力形成的三對(duì)不對(duì)稱的現(xiàn)象展開，分析科技與倫理出現(xiàn)不對(duì)稱的現(xiàn)象，最后提出利用不對(duì)稱解決科技倫理的建議。

上海市自然辯證法研究會(huì)理事長(zhǎng)、上海社會(huì)科學(xué)院哲學(xué)研究所成素梅教授認(rèn)為，智能革命已使人類結(jié)成了命運(yùn)共同體，在這個(gè)共同體中，人與人之間和國(guó)與國(guó)之間不在于有多么的不同，而在于相似性。智能革命的發(fā)展最終將會(huì)對(duì)工業(yè)文明釜底抽薪，成為工業(yè)文明的掘墓人和智能文明的締造者。智能文明將是社會(huì)與技術(shù)高度糾纏的文明，也是深度拷問人類本質(zhì)特征的文明。我們只有辨明了“人之所以成為人”的本質(zhì)特征，才能有針對(duì)性地出臺(tái)規(guī)范人工智能發(fā)展的約束機(jī)制和有效治理的全球標(biāo)準(zhǔn),才能守護(hù)人的底線。要做到這一點(diǎn)，需要把曾經(jīng)在工業(yè)時(shí)代位于邊緣的哲學(xué)人文社會(huì)科學(xué)，置于智能文明時(shí)代的中心，而未來智能社會(huì)的重建充滿了對(duì)人類智慧的更加嚴(yán)峻的考驗(yàn)。

上海交通大學(xué)李俠教授認(rèn)為，隨著近幾年大數(shù)據(jù)的興起, 數(shù)據(jù)挖掘技術(shù)以及算法的迅猛發(fā)展, 其潛在商業(yè)前景不可限量。時(shí)至今日, 我們尚無法準(zhǔn)確研判大數(shù)據(jù)革命對(duì)于人類的存在狀態(tài)到底會(huì)造成什么樣的深遠(yuǎn)影響, 但至少在其早期應(yīng)用中已顯露出一些令人擔(dān)憂的征兆, 整個(gè)社會(huì)已經(jīng)開始逐漸感受到大數(shù)據(jù)對(duì)國(guó)家安全與個(gè)人生活的侵入以及權(quán)利的侵蝕。為了便于討論，李俠教授對(duì)最近涌現(xiàn)出來的基于大數(shù)據(jù)的算法殺熟現(xiàn)象做了細(xì)致分析，指出：任何商家的算法通常都標(biāo)榜：客觀、中立、科學(xué)。然而，公眾無法檢驗(yàn)算法，它完全不透明、也從不受外界審查，我們不知道算法里預(yù)設(shè)了什么樣的偏見與歧視。所謂的“殺熟”就是歧視性定價(jià)。基于這種現(xiàn)實(shí)引發(fā)三種矛盾：矛盾1：算法不透明VS人越發(fā)透明；矛盾2：個(gè)體的道德敏感性低VS算法通過小惡的累積，大概率殺熟；矛盾3：個(gè)體追責(zé)成本高VS算法違規(guī)成本低。期望通過生活中的一個(gè)常見視角，探討在新技術(shù)面前人類的處境以及可能的解決措施。李老師提出完善與充實(shí)治理算法的政策工具箱是該行業(yè)進(jìn)入規(guī)范與有序發(fā)展的當(dāng)務(wù)之急?？傊瑢?duì)于算法的治理到了從政策引導(dǎo)、道德規(guī)訓(xùn)到出臺(tái)法規(guī)三管齊下的時(shí)候了，這也是一個(gè)逐漸調(diào)整、相互支撐的治理過程，在此基礎(chǔ)上各種基于大數(shù)據(jù)的算法的應(yīng)用才是合規(guī)的。

 長(zhǎng)沙理工大學(xué)易顯飛教授認(rèn)為，“新興增強(qiáng)技術(shù)”與“人工智能技術(shù)”既有區(qū)別也有聯(lián)系。他在歸納學(xué)界對(duì)“技術(shù)與人文”的五種基本立場(chǎng)的基礎(chǔ)上指出，當(dāng)代新興"情感增強(qiáng)技術(shù)"(EET)通過現(xiàn)代技術(shù)手段對(duì)人類的情感進(jìn)行干預(yù)和調(diào)節(jié),從而可以達(dá)到"增強(qiáng)"的目的,對(duì)其界定可以解構(gòu)為關(guān)于情感內(nèi)涵和范圍的界定、關(guān)于"治療"、"預(yù)防"與"增強(qiáng)"三者之間界限的劃分以及會(huì)聚技術(shù)為代表的新技術(shù)變革下EET所包含的核心技術(shù)要素。當(dāng)代新興EET大致可以劃分為醫(yī)藥技術(shù)型、基因工程型、納米技術(shù)型、信息技術(shù)型、植入技術(shù)型、復(fù)合控制型等六大類型。與傳統(tǒng)情感增強(qiáng)技術(shù)相比,當(dāng)代新興EET具有"前提的預(yù)設(shè)性"、"風(fēng)險(xiǎn)的高度不確定性"、"功能的逾越性"、"工具的植入性"、"技術(shù)的會(huì)聚性"以及"人的深度科技化"等特征。上述特征的出現(xiàn),體現(xiàn)了當(dāng)代新興EET已經(jīng)呈現(xiàn)出新的"技術(shù)范式"，呈現(xiàn)出全新的“人文問題”。他認(rèn)為，與傳統(tǒng)增強(qiáng)技術(shù)完全不同的新興“人類增強(qiáng)技術(shù)”，使人類增強(qiáng)自身的能力得到根本性提升。但鑒于其現(xiàn)存或潛在的各種人文風(fēng)險(xiǎn)，我們應(yīng)以一定的人文標(biāo)準(zhǔn)作為參考系，合理引導(dǎo)人類增強(qiáng)技術(shù)朝著“合目的性”與“合規(guī)律性”統(tǒng)一的方向發(fā)展，真正造福人類。

此次會(huì)議的上半場(chǎng)由上海交通大學(xué)馬克思主義學(xué)院科學(xué)史與科學(xué)文化研究院院長(zhǎng)李俠教授主持；下半場(chǎng)會(huì)議由上海交通大學(xué)馬克思主義學(xué)院科學(xué)史與科學(xué)文化研究院閆宏秀教授主持。會(huì)議過程中，在座的專家學(xué)者對(duì)每場(chǎng)學(xué)術(shù)報(bào)告進(jìn)行了熱烈的討論，期待為建設(shè)中國(guó)人工智能研究的新局面而共同努力。最后，李俠教授致閉幕辭。在與會(huì)代表的掌聲中，“人工智能、倫理與文化高端論壇”順利落下帷幕。

攝影:周穎；審編:牟凱璇

  主要信息來源：上海交通大學(xué)馬克思主義學(xué)院官網(wǎng)