中新網(wǎng)上海9月12日電 (姜煜 高志苗)以“AI向善·安全發(fā)展——大模型在嚴(yán)謹(jǐn)行業(yè)應(yīng)用中的倫理與治理”為主題的外灘大會(huì)分論壇，12日在上?！?025外灘大會(huì)”現(xiàn)場(chǎng)舉辦，專(zhuān)家學(xué)者在論壇上熱議醫(yī)療AI應(yīng)用。
“在醫(yī)療行業(yè)，AI的決策直接關(guān)乎生命健康與社會(huì)公平，數(shù)據(jù)濫用、算法偏見(jiàn)、責(zé)任模糊等問(wèn)題亟待解決。”中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)副理事長(zhǎng)黃澄清在論壇致辭中表示，構(gòu)建可信、可靠、可追溯的AI治理體系已成為技術(shù)發(fā)展的內(nèi)在要求，也是社會(huì)責(zé)任的必然選擇。
“醫(yī)療大模型的發(fā)展，我覺(jué)得對(duì)社會(huì)最大的貢獻(xiàn)是有可能促進(jìn)醫(yī)療公平公正?！睆?fù)旦大學(xué)哲學(xué)學(xué)院教授王國(guó)豫說(shuō)，AI在醫(yī)療領(lǐng)域的應(yīng)用是偏遠(yuǎn)地區(qū)醫(yī)生的好助手，為優(yōu)勢(shì)醫(yī)療資源難以觸達(dá)和覆蓋的病患群體帶去了期望和福音。
上海交通大學(xué)醫(yī)學(xué)院附屬瑞金醫(yī)院信息中心主任趙艷認(rèn)為，AI的出現(xiàn)讓患者不僅在診前就能對(duì)自身情況進(jìn)行較科學(xué)的基礎(chǔ)了解，也在診中和診后促進(jìn)了患者對(duì)醫(yī)生診療方案的依從性，從而可以提升配合治療的效果。
中國(guó)工程院院士、同濟(jì)大學(xué)黨委書(shū)記鄭慶華指出，AI與人類(lèi)的“價(jià)值對(duì)齊”問(wèn)題是確保人工智能科技向善的根本，要通過(guò)強(qiáng)化學(xué)習(xí)讓大模型學(xué)習(xí)人類(lèi)的價(jià)值和偏好，以此讓人工智能對(duì)齊人類(lèi)價(jià)值，創(chuàng)建安全、符合倫理的人工智能系統(tǒng)，同時(shí)人類(lèi)也要對(duì)齊AI，核心是確保人們負(fù)責(zé)任地應(yīng)用AI。
“全球的人工智能治理正走向促發(fā)展和柔性監(jiān)管的方向，即建立一個(gè)敏捷的治理體系，以政策指引促進(jìn)產(chǎn)業(yè)主動(dòng)自律，以包容審慎的態(tài)度來(lái)構(gòu)建負(fù)責(zé)任的人工智能安全體系。”中國(guó)信息通信研究院副院長(zhǎng)魏亮說(shuō)。據(jù)他介紹，2025年7月，中國(guó)信息通信研究院聯(lián)合多家企事業(yè)單位，共同發(fā)布了《人工智能安全承諾》，形成了20條實(shí)踐標(biāo)簽、43條安全案例，不僅推動(dòng)我國(guó)人工智能安全治理邁入體系化、透明化、實(shí)操化的新階段，也為全球貢獻(xiàn)了“以人為本、智能向善”的中國(guó)方案。
企業(yè)界代表、螞蟻集團(tuán)資深副總裁及科技倫理委員會(huì)聯(lián)席主席周志峰說(shuō)：“我們還是希望通過(guò)預(yù)警、測(cè)試、修復(fù)這樣的動(dòng)態(tài)機(jī)制來(lái)提升AI的風(fēng)險(xiǎn)防控能力。”他在論壇上介紹了螞蟻集團(tuán)在AI大模型領(lǐng)域的研發(fā)進(jìn)展以及倫理方面的思考。(完)