編者按:隨著新興科技的蓬勃發(fā)展,科技創(chuàng)新和應(yīng)用的不確定性后果與深遠(yuǎn)社會(huì)影響日益凸顯,帶來(lái)了諸多不容忽視的價(jià)值沖突與倫理爭(zhēng)議,科技倫理治理成為全球科技創(chuàng)新與科技治理必須面對(duì)的全新挑戰(zhàn)。為此,特組織一組文章,以期激發(fā)進(jìn)一步討論和思考。
核心提示
■必須將科技創(chuàng)新與科技倫理的關(guān)系重置為“并行”關(guān)系——不僅在科技創(chuàng)新之初就要對(duì)其價(jià)值倫理問(wèn)題有所考量,而且要使科技倫理成為貫穿于科技創(chuàng)新全生命周期的反饋與調(diào)節(jié)機(jī)制。
■科技倫理治理涉及多個(gè)主體和利益相關(guān)方對(duì)具體的科技倫理風(fēng)險(xiǎn)的共同感知、探究與應(yīng)對(duì),必須借助各種評(píng)價(jià)工具和政策工具對(duì)相關(guān)問(wèn)題加以評(píng)估、測(cè)試和干預(yù)、校準(zhǔn)。
近年來(lái),我國(guó)在數(shù)字技術(shù)、生物醫(yī)學(xué)和人工智能等領(lǐng)域的創(chuàng)新與應(yīng)用,出現(xiàn)了跨越式發(fā)展的良好勢(shì)頭,越來(lái)越多的人享受到科技進(jìn)步的紅利,科技創(chuàng)新成為人們創(chuàng)造美好生活的關(guān)鍵動(dòng)能。但與此同時(shí),一些新技術(shù)侵犯了公眾權(quán)益,違背了科技造福社會(huì)的初衷,潛在倫理風(fēng)險(xiǎn)使企業(yè)等創(chuàng)新主體陷入對(duì)ESG(環(huán)境—社會(huì)—監(jiān)管)風(fēng)險(xiǎn)的焦慮之中。在我國(guó)努力邁向創(chuàng)新型國(guó)家前列的今天,為了盡力減少科技倫理風(fēng)險(xiǎn)及其不利影響,科技倫理治理的體制、機(jī)制建設(shè)成為我國(guó)國(guó)家治理的重要環(huán)節(jié)。
為了構(gòu)建符合中國(guó)國(guó)情的科技倫理治理體系,繼頒布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》(以下簡(jiǎn)稱(chēng)《原則》)之后,相關(guān)部門(mén)正在加緊探討和制訂更具一般性的科技倫理原則,國(guó)家科技倫理委員會(huì)的組建以及科技倫理審查制度的構(gòu)建等工作也在進(jìn)行之中。
科技創(chuàng)新
與科技倫理共同發(fā)展
科技創(chuàng)新及其爆炸性的增長(zhǎng)態(tài)勢(shì),使其日益成為影響科技—社會(huì)—經(jīng)濟(jì)—生態(tài)巨系統(tǒng)的重要力量,科技創(chuàng)新的過(guò)程與后果往往涉及各種復(fù)雜的價(jià)值沖突與倫理抉擇,這使得科技創(chuàng)新與科技倫理的共同進(jìn)化成為當(dāng)代科技活動(dòng)的內(nèi)在要求。
在核能、航天、化工等傳統(tǒng)的科技活動(dòng)中,科技創(chuàng)新與科技倫理主要呈現(xiàn)為一種“串行”關(guān)系,一般是在對(duì)科技創(chuàng)新所引起的安全風(fēng)險(xiǎn)、社會(huì)爭(zhēng)議和不良后果加以評(píng)估的基礎(chǔ)上,開(kāi)始對(duì)其加以必要的倫理反思與約束。但隨著基因、納米材料、人工智能、虛擬現(xiàn)實(shí)、神經(jīng)科技等新興科技的出現(xiàn),不論是科技人員還是科技管理者或社會(huì)公眾,逐漸形成的一個(gè)共識(shí)是,這些領(lǐng)域的科技創(chuàng)新在可能為社會(huì)帶來(lái)巨大好處的同時(shí),也可能導(dǎo)致嚴(yán)重加劇社會(huì)不平等和對(duì)生態(tài)環(huán)境造成不可逆的破壞等高度不確定性的風(fēng)險(xiǎn),必須將科技創(chuàng)新與科技倫理的關(guān)系重置為“并行”關(guān)系——不僅在科技創(chuàng)新之初就要對(duì)其價(jià)值倫理問(wèn)題有所考量,而且要使科技倫理成為貫穿于科技創(chuàng)新全生命周期的反饋與調(diào)節(jié)機(jī)制,通過(guò)兩者的共同進(jìn)化,讓科技在造福社會(huì)的同時(shí)盡可能減少負(fù)面后果與倫理風(fēng)險(xiǎn)。
面對(duì)新興科技的價(jià)值倫理挑戰(zhàn),單靠科技共同體的科研倫理和專(zhuān)業(yè)倫理難以應(yīng)對(duì)科技創(chuàng)新的倫理風(fēng)險(xiǎn),必須通過(guò)引入科技倫理治理,構(gòu)建健全的科技倫理準(zhǔn)則體系,開(kāi)展更具有預(yù)見(jiàn)性、動(dòng)態(tài)性和廣泛參與性的科技倫理評(píng)估,從而在充分促進(jìn)科技創(chuàng)新并使社會(huì)公眾受益的同時(shí),避免由不合倫理的科技濫用所導(dǎo)致的權(quán)利侵犯、環(huán)境破壞乃至人類(lèi)生存風(fēng)險(xiǎn)。
準(zhǔn)則構(gòu)建
與教育傳播齊頭并進(jìn)
科技創(chuàng)新與科技倫理的共同進(jìn)化這一科技活動(dòng)的內(nèi)在需求表明,科技倫理治理必須對(duì)不斷拓展的科技領(lǐng)域展開(kāi)拓展動(dòng)態(tài)治理,但像所有的動(dòng)態(tài)治理一樣,首先要通過(guò)原則與準(zhǔn)則的構(gòu)建確立治理的立足點(diǎn)。從國(guó)家科技倫理治理工作的角度來(lái)看,不論是已經(jīng)出臺(tái)的《原則》還是將來(lái)可能頒布的面向科技工作者的科技倫理準(zhǔn)則,在內(nèi)涵上都超越了一般的管理規(guī)范和專(zhuān)業(yè)倫理規(guī)范,同時(shí)具有倫理和治理兩個(gè)層面的規(guī)范性。一方面,這些原則和準(zhǔn)則具有倫理規(guī)范性,它們是對(duì)增進(jìn)福祉、尊重生命、權(quán)利保護(hù)、負(fù)責(zé)任的創(chuàng)新等人們?cè)诳萍蓟顒?dòng)中普遍認(rèn)同的價(jià)值的概括和權(quán)威性的闡釋;另一方面,這些原則和準(zhǔn)則將成為科技倫理治理工作的出發(fā)點(diǎn),在此基礎(chǔ)上,可以通過(guò)倫理指南、倫理審查、倫理評(píng)估和倫理建議等科技倫理治理機(jī)制與工具,對(duì)相關(guān)科技創(chuàng)新中的相關(guān)倫理問(wèn)題進(jìn)行調(diào)研、預(yù)判、審議和調(diào)節(jié)。
同時(shí),在國(guó)家層面提出科技倫理準(zhǔn)則和治理原則必須要有相應(yīng)的教育傳播舉措與之配套。雖然我國(guó)在與科研誠(chéng)信相關(guān)的科研倫理準(zhǔn)則建設(shè)方面已取得一定的成績(jī),但除生命醫(yī)學(xué)以外,應(yīng)對(duì)科技的廣泛倫理影響的科技倫理準(zhǔn)則建設(shè)還在起步階段。因此,一是要在科技與工程的高等教育與青年科技工作者的專(zhuān)業(yè)培訓(xùn)中,以對(duì)科技倫理準(zhǔn)則和治理原則的解讀為抓手,加強(qiáng)科技倫理意識(shí)和科技倫理規(guī)范教育;二是要在科技管理部門(mén)和其他相關(guān)政府部門(mén)的干部培訓(xùn)中,強(qiáng)化對(duì)相關(guān)科技倫理準(zhǔn)則和治理原則的學(xué)習(xí),并促使其將科技倫理意識(shí)運(yùn)用于工作之中,以避免和減少相關(guān)決策和行政舉措的科技倫理風(fēng)險(xiǎn);三是要在全社會(huì)以多種形式廣泛傳播科技倫理準(zhǔn)則和治理原則及其背后的科技知識(shí)和科技倫理意識(shí),使社會(huì)公眾能夠積極主動(dòng)地參與到科技倫理治理相關(guān)討論之中,促使科技更好地造福社會(huì)。
剛性監(jiān)管
與敏捷治理相輔相成
以科技倫理準(zhǔn)則和治理原則的確立為切入點(diǎn),科技倫理治理工作將通過(guò)科技倫理審查制度的建立和實(shí)施對(duì)科技創(chuàng)新的倫理風(fēng)險(xiǎn)展開(kāi)系統(tǒng)的規(guī)制與調(diào)節(jié)。一方面,將科技倫理準(zhǔn)則和治理原則與具體的科技倫理風(fēng)險(xiǎn)相結(jié)合,為科技創(chuàng)新設(shè)定科技倫理的邊界與底線,通過(guò)應(yīng)急性與預(yù)防性的科技倫理審查,對(duì)一些具有顯見(jiàn)或潛在的巨大科技倫理風(fēng)險(xiǎn)的研究和創(chuàng)新施行剛性監(jiān)管。另一方面,從預(yù)期性、均衡性和適應(yīng)性等原則出發(fā),將科技倫理原則與治理原則作為科技創(chuàng)新的柔性約束機(jī)制,對(duì)科技創(chuàng)新實(shí)施敏捷治理。
為了及時(shí)有效地克服科技創(chuàng)新可能導(dǎo)致的重大倫理風(fēng)險(xiǎn),應(yīng)在科技倫理治理層面引入一系列制度化的監(jiān)管機(jī)制。一是建立科技共同體和科技創(chuàng)新過(guò)程的早期預(yù)警系統(tǒng)。對(duì)于包括重大安全事故隱患、嚴(yán)重違背人類(lèi)基本倫理共識(shí)和導(dǎo)致人類(lèi)生存風(fēng)險(xiǎn)的重大科技倫理風(fēng)險(xiǎn),事后的規(guī)制和懲罰往往于事無(wú)補(bǔ),必須通過(guò)早期預(yù)警系統(tǒng)的及時(shí)預(yù)警才可能規(guī)避。為此,科研機(jī)構(gòu)和科技專(zhuān)業(yè)學(xué)會(huì)、協(xié)會(huì)應(yīng)該由行政負(fù)責(zé)人與業(yè)務(wù)帶頭人共同承擔(dān)起早期預(yù)警的責(zé)任。二是要充分認(rèn)識(shí)到,我們對(duì)于科技創(chuàng)新的可能風(fēng)險(xiǎn)存在認(rèn)識(shí)上的盲區(qū),鼓勵(lì)科技創(chuàng)新者對(duì)于潛在的巨大風(fēng)險(xiǎn)特別是處于“未知的未知”狀態(tài)的重大風(fēng)險(xiǎn)展開(kāi)研究,并且在一些重點(diǎn)領(lǐng)域?qū)μ囟ǖ闹卮箫L(fēng)險(xiǎn)感知和應(yīng)對(duì)研究予以重點(diǎn)支持。三是聚焦導(dǎo)致重大科技倫理風(fēng)險(xiǎn)的不良實(shí)踐特別是最差實(shí)踐,將其納入科研事故管理,通過(guò)對(duì)其原因的追溯性分析,充分總結(jié)其中的教訓(xùn),并根據(jù)舉一反三的原則對(duì)相近和類(lèi)似領(lǐng)域的研究者予以警示。
敏捷治理的基本主張是面對(duì)與科技創(chuàng)新相伴隨的各種復(fù)雜的倫理風(fēng)險(xiǎn),應(yīng)以科技創(chuàng)新與科技倫理的共同進(jìn)化為認(rèn)知前提和實(shí)踐策略。首先,要從預(yù)期性原則出發(fā),在科技規(guī)劃制定工作中,加強(qiáng)對(duì)科技的社會(huì)影響與倫理風(fēng)險(xiǎn)的預(yù)見(jiàn)研究,盡可能一開(kāi)始就把事情做好;其次,立足均衡性原則,敏捷治理始終根據(jù)科技創(chuàng)新的動(dòng)態(tài)發(fā)展尋求可接受的風(fēng)險(xiǎn)—受益,并對(duì)最終的不得不接受的倫理風(fēng)險(xiǎn)予以制度化的補(bǔ)償;其三,堅(jiān)持適應(yīng)性原則,將科技倫理問(wèn)題作為科技創(chuàng)新的廣義社會(huì)需求,鼓勵(lì)科技創(chuàng)新者努力探索如何將價(jià)值和倫理上的考量嵌入到科技創(chuàng)新的設(shè)計(jì)與應(yīng)用之中,通過(guò)負(fù)責(zé)任的研究和創(chuàng)新促進(jìn)科技向善。
多元共治
與能力建設(shè)雙管齊下
科技倫理治理既是科技管理的新范式,也是新時(shí)代國(guó)家治理現(xiàn)代化探索的前沿領(lǐng)域??萍紓惱碇卫砟J街猿霈F(xiàn)的關(guān)鍵原因在于,以往的科技管理和科技共同體自治的二元治理模式難以適應(yīng)新興科技創(chuàng)新導(dǎo)致的科技倫理挑戰(zhàn)。但不難看到,科技活動(dòng)的高度專(zhuān)業(yè)性使得科技倫理治理不可能完全以行政化的方式運(yùn)作,而必須訴諸多元共治。毋庸置疑,科技倫理治理所開(kāi)展的準(zhǔn)則制定和國(guó)家科技倫理委員會(huì)的設(shè)立等工作起到的是權(quán)威引領(lǐng)與示范指南作用。在這一頂層架構(gòu)下,必須通過(guò)具體的研究機(jī)構(gòu)、科技共同體、科技工作者、科技管理者以及其他利益相關(guān)者的努力,使這一模式延伸到具體的科技創(chuàng)新實(shí)踐之中。
更進(jìn)一步而言,科技倫理治理涉及多個(gè)主體和利益相關(guān)方對(duì)具體的科技倫理風(fēng)險(xiǎn)的共同感知、探究與應(yīng)對(duì),必須借助各種評(píng)價(jià)工具和政策工具對(duì)相關(guān)問(wèn)題加以評(píng)估、測(cè)試和干預(yù)、校準(zhǔn)。而這些工作的前提是相關(guān)主體對(duì)具體的科技倫理風(fēng)險(xiǎn)的認(rèn)知和共識(shí)。這對(duì)科技人員、科技管理者和一般公眾的能力建設(shè)提出了諸多挑戰(zhàn),其中最為重要的是對(duì)科技活動(dòng)的道德敏感性和責(zé)任感的養(yǎng)成。為了改變這一局面,可以引入兩個(gè)工作策略。一是柔性學(xué)習(xí)策略,通過(guò)對(duì)話、辯論等方式,加強(qiáng)科技工作者與人文社會(huì)科學(xué)家對(duì)科技倫理問(wèn)題的研討,提升科技工作者對(duì)科技倫理風(fēng)險(xiǎn)的認(rèn)知,形成和強(qiáng)化相應(yīng)的道德敏感性和責(zé)任感。二是剛性的校準(zhǔn)策略,即在項(xiàng)目申請(qǐng)、管理、結(jié)項(xiàng)和社會(huì)評(píng)價(jià)等環(huán)節(jié)引入倫理風(fēng)險(xiǎn)自評(píng)等硬性要求,倒逼科技人員和管理者關(guān)注科技倫理風(fēng)險(xiǎn)、反思其應(yīng)承擔(dān)的倫理責(zé)任。
(作者段偉文系中國(guó)社科院科學(xué)技術(shù)和社會(huì)研究中心主任、研究員)
看的辛苦不如直接問(wèn)??! 商標(biāo);專(zhuān)利;版權(quán);法律