中新網(wǎng)上海11月22日電 (記者 陳靜)記者22日獲悉，以“人工智能時(shí)代的科技倫理”為主題的第三屆中國科技倫理論壇在復(fù)旦大學(xué)舉行。論壇吸引了來自全國各領(lǐng)域的百余位專家學(xué)者等參加。

　　在論壇上，首都師范大學(xué)教授王淑芹強(qiáng)調(diào)，人工智能技術(shù)的工具價(jià)值必須始終受到人類目的價(jià)值的統(tǒng)領(lǐng)。她指出，智能體本質(zhì)上是人的意圖和目的的載體，價(jià)值對(duì)齊的責(zé)任最終落在人的身上，科技工作者應(yīng)當(dāng)使算法體現(xiàn)人類共識(shí)性的普遍價(jià)值原則。

　　中國人民大學(xué)教授龔群認(rèn)為，生成式人工智能的倫理風(fēng)險(xiǎn)根植于工具理性與價(jià)值理性的現(xiàn)代性沖突。他認(rèn)為，目前生成式人工智能存在三大核心風(fēng)險(xiǎn)：黑箱的存在帶來監(jiān)管困境與倫理風(fēng)險(xiǎn)；機(jī)器幻覺造成事實(shí)與感知判斷錯(cuò)誤；平臺(tái)收集個(gè)人信息帶來隱私風(fēng)險(xiǎn)。面對(duì)這些挑戰(zhàn)，龔群主張確認(rèn)以人的責(zé)任為核心的治理體系，加強(qiáng)算法審計(jì)的制度建設(shè)，并關(guān)注個(gè)人數(shù)據(jù)權(quán)利保護(hù)，實(shí)現(xiàn)技術(shù)進(jìn)步與人本價(jià)值的和諧統(tǒng)一。

　　中國科協(xié)黨組成員、書記處書記王進(jìn)展指出，當(dāng)前以人工智能為代表的新興技術(shù)加速迭代，科技倫理挑戰(zhàn)的復(fù)雜性、全球性愈發(fā)凸顯。他提出把握以人為本科技向善的基本原則，加強(qiáng)人工智能倫理規(guī)范建設(shè)；加快推進(jìn)中國科技倫理學(xué)會(huì)建設(shè)，強(qiáng)化學(xué)術(shù)共同體支撐作用；系統(tǒng)構(gòu)建科技倫理自主知識(shí)體系，提升國際話語權(quán)。

　　目前，人工智能的價(jià)值對(duì)齊問題已是社會(huì)面臨的核心挑戰(zhàn)之一。中國工程院院士、同濟(jì)大學(xué)黨委書記鄭慶華在題為“人機(jī)價(jià)值對(duì)齊問題的認(rèn)識(shí)和思考”的特邀報(bào)告中指出，人工智能技術(shù)快速發(fā)展伴隨著算法偏見、人工智能幻覺與知識(shí)產(chǎn)權(quán)模糊等諸多風(fēng)險(xiǎn)，而這背后的根本癥結(jié)在于人類價(jià)值觀的復(fù)雜模糊與人工智能追求目標(biāo)的精確性間存在沖突。關(guān)于如何破局，鄭慶華提出，人與人工智能應(yīng)雙向?qū)R：人工智能需通過人類反饋強(qiáng)化學(xué)習(xí)實(shí)現(xiàn)價(jià)值觀校準(zhǔn)，而人類則需適應(yīng)人機(jī)協(xié)同的新范式，最終實(shí)現(xiàn)人機(jī)價(jià)值對(duì)齊。需構(gòu)建一個(gè)多維度、持續(xù)演進(jìn)的體系，推動(dòng)技術(shù)、治理與文化三方攜手共進(jìn)。

　　在論壇上，中國科學(xué)院院士、復(fù)旦大學(xué)校長金力表示，人工智能、腦機(jī)接口等新興技術(shù)的迅猛發(fā)展對(duì)科技倫理的發(fā)展提出了很高的要求，科技倫理是平衡創(chuàng)新與價(jià)值的文明基石。復(fù)旦大學(xué)已率先成立科技倫理研究院、設(shè)立應(yīng)用倫理專業(yè)碩士、發(fā)布全球首個(gè)專為科技倫理審查打造的AI智能體系統(tǒng)“一鑒”。金力期望通過論壇匯聚更多共識(shí)，深化科技向善的理論體系構(gòu)建，并推動(dòng)社會(huì)各界對(duì)科技倫理問題給予更廣泛、更深入的關(guān)注。

　　復(fù)旦大學(xué)教授楊珉介紹了復(fù)旦大學(xué)白澤大模型動(dòng)態(tài)安全合規(guī)測(cè)評(píng)平臺(tái)，這項(xiàng)工作不僅能高效完成基礎(chǔ)大模型評(píng)測(cè)，還能為國家安全治理提供前瞻性的決策支撐。在人工智能風(fēng)險(xiǎn)預(yù)警方面，楊珉揭示了大模型的潛在失控風(fēng)險(xiǎn)。他呼吁建立跨學(xué)科治理機(jī)制，確保人工智能在可控軌道上發(fā)展。

　　復(fù)旦大學(xué)哲學(xué)學(xué)院教授王國豫與華東師范大學(xué)終身教授袁振國聚焦“人工智能時(shí)代的教育重塑與倫理邊界”這一議題展開主題對(duì)談。袁振國提出“教師-學(xué)生-智能體”三元主體互動(dòng)論，指出未來教育將突破物理圍墻，形成個(gè)性化全時(shí)空學(xué)習(xí)場(chǎng)域。他表示：“人工智能時(shí)代教育的本質(zhì)，是教導(dǎo)師生在人機(jī)共生中做機(jī)器的主人?！?/p>

　　據(jù)悉，論壇設(shè)置了若干專題論壇，分別聚焦人機(jī)共生時(shí)代人的自主性與人類身份、人工智能賦能醫(yī)療和神經(jīng)科學(xué)的機(jī)遇和挑戰(zhàn)、人工智能道德增強(qiáng)與AI賦能倫理的可能性探索、人工智能的倫理治理及全球話語體系構(gòu)建、科技倫理的方法論研究、藝術(shù)與敘事中的人工智能倫理等多個(gè)關(guān)鍵議題。(完)