《人工智能北京共識(shí)》25日發(fā)布。針對人工智能研發(fā)、使用、治理三方面,《北京共識(shí)》提出各個(gè)參與方應(yīng)該遵循的有益于人類命運(yùn)共同體構(gòu)建和社會(huì)發(fā)展的15條原則。
《北京共識(shí)》由北京智源人工智能研究院聯(lián)合北京大學(xué)、清華大學(xué)、中國科學(xué)院自動(dòng)化研究所、中國科學(xué)院計(jì)算技術(shù)研究所、新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟等高校、科研院所和產(chǎn)業(yè)聯(lián)盟共同發(fā)布。
在研發(fā)方面,《北京共識(shí)》提倡要有益于增進(jìn)社會(huì)與生態(tài)的福祉,服從人類的整體利益,設(shè)計(jì)上要合乎倫理,體現(xiàn)出多樣性與包容性,盡可能地惠及更多人,對潛在倫理風(fēng)險(xiǎn)與隱患負(fù)責(zé),提升技術(shù)水平控制各種風(fēng)險(xiǎn),并最大范圍共享人工智能發(fā)展成果。
在使用方面,《北京共識(shí)》提倡要善用和慎用,避免誤用和濫用,以最大化人工智能技術(shù)帶來的益處、最小化其風(fēng)險(xiǎn),確保利益相關(guān)者對其權(quán)益所受影響有充分的知情與同意,并能夠通過教育與培訓(xùn)適應(yīng)人工智能發(fā)展帶來的影響。
在治理方面,《北京共識(shí)》對人工智能部分替代人類工作保持包容和謹(jǐn)慎態(tài)度,鼓勵(lì)探索更能發(fā)揮人類優(yōu)勢和特點(diǎn)的新工作,廣泛開展國際合作,共享人工智能治理經(jīng)驗(yàn)。人工智能的準(zhǔn)則與治理措施應(yīng)做到適應(yīng)和適度,并開展長遠(yuǎn)戰(zhàn)略設(shè)計(jì),以確保未來人工智能始終保持向?qū)ι鐣?huì)有益的方向發(fā)展。
為降低人工智能發(fā)展過程中可能存在的技術(shù)風(fēng)險(xiǎn)和倫理隱患,北京智源人工智能研究院專門成立人工智能倫理與安全研究中心,該研究中心在當(dāng)天的發(fā)布會(huì)上揭牌。
中國科學(xué)院自動(dòng)化研究所研究員曾毅出任研究中心主任。他介紹說,該研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統(tǒng)平臺(tái)、行業(yè)應(yīng)用等開展一系列研究。
該研究中心主要研究四個(gè)方面內(nèi)容:一是低風(fēng)險(xiǎn)機(jī)器學(xué)習(xí)模型與平臺(tái)的構(gòu)建,建立機(jī)器學(xué)習(xí)模型安全性的評估體系。二是開展符合人類倫理道德的智能自主學(xué)習(xí)模型研究,實(shí)現(xiàn)人工智能行為與人類價(jià)值觀的校準(zhǔn),并在模擬環(huán)境與真實(shí)場景中進(jìn)行驗(yàn)證。三是建立數(shù)據(jù)基礎(chǔ)設(shè)施、數(shù)據(jù)分級(jí)、權(quán)限控制、數(shù)據(jù)審計(jì),最大限度防止數(shù)據(jù)泄密,降低風(fēng)險(xiǎn),探索允許用戶撤銷個(gè)人數(shù)據(jù)授權(quán)的機(jī)制及計(jì)算平臺(tái)。四是針對數(shù)據(jù)與算法的安全性、公平性、可追溯性、風(fēng)險(xiǎn)類型、影響程度與影響范圍等方面,對人工智能產(chǎn)品及應(yīng)用進(jìn)行風(fēng)險(xiǎn)與安全綜合檢測與評估,引導(dǎo)行業(yè)健康發(fā)展。
今后,該研究中心將著力在算法安全評估、安全模型構(gòu)建、AI綜合沙盒建設(shè)等方面盡快取得一系列創(chuàng)新性成果,為降低人工智能的風(fēng)險(xiǎn)和倫理隱患提供技術(shù)服務(wù),促進(jìn)人工智能行業(yè)的良性健康發(fā)展。(記者 于立霄)
關(guān)鍵詞: 人工智能北京共識(shí)
凡本網(wǎng)注明“XXX(非中國微山網(wǎng))提供”的作品,均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和其真實(shí)性負(fù)責(zé)。
大眾網(wǎng)·海報(bào)新聞?dòng)浾邚埛€(wěn)呂樂田陽孫震泰安報(bào)道時(shí)值深秋,泰安市邱家店鎮(zhèn)姚家坡村迎來了一年中最忙碌的時(shí)節(jié)——作為全國最大的“秋褲村”,每
2022-10-29 18:34
在中國,每12秒有1人發(fā)生卒中,每21秒有1人死于卒中,腦血管病已成為中國居民第一位的死亡原因,早期預(yù)防顯得尤為重要。每年10月29日是“世界
2022-10-29 18:39
10月28日上午,全國首個(gè)航運(yùn)企業(yè)集成化審批服務(wù)平臺(tái)在青島自貿(mào)片區(qū)啟動(dòng)。該平臺(tái)運(yùn)用數(shù)據(jù)中臺(tái)、AI人工智能、電子簽名等技術(shù),將涉及水路運(yùn)輸、
2022-10-29 18:37
海報(bào)評論員朱延魯10月28日,山東公布了2022年前三季度全省經(jīng)濟(jì)運(yùn)行數(shù)據(jù)。根據(jù)地區(qū)生產(chǎn)總值統(tǒng)一核算結(jié)果,前三季度,全省生產(chǎn)總值為64409億元,
2022-10-29 18:31
作為正規(guī)醫(yī)院,南昌豐益肛腸醫(yī)院在改善就醫(yī)環(huán)境、降低就醫(yī)費(fèi)用、優(yōu)化就醫(yī)流程方面下功夫;實(shí)行的無假日醫(yī)院制度,為上班族看病提供便利;通過
2022-10-29 17:53
10月28日,山東發(fā)布了前三季度的全省經(jīng)濟(jì)運(yùn)行情況。前三季度全省生產(chǎn)總值64409億元,同比增長4 0%。跑贏3 0%的全國大盤,經(jīng)濟(jì)大省山東交出了一
2022-10-29 15:41
大眾網(wǎng)·海報(bào)新聞?dòng)浾呓鈴?qiáng)民通訊員姜雁群濟(jì)南報(bào)道10月28日,濟(jì)南軌道交通3號(hào)線二期設(shè)備工程開工活動(dòng)在稻香站舉行,標(biāo)志著濟(jì)南軌道交通3號(hào)線二
2022-10-29 15:32
大眾網(wǎng)·海報(bào)新聞?dòng)浾吡忽?jì)南報(bào)道11月9日至10日,2022全國中小企業(yè)數(shù)字化轉(zhuǎn)型大會(huì)將于山東國際會(huì)展中心舉行。本次大會(huì)主題為“創(chuàng)新引領(lǐng)發(fā)展數(shù)
2022-10-29 15:36
大眾網(wǎng)·海報(bào)新聞?dòng)浾邔O杰濟(jì)南報(bào)道10月28日,由中國聯(lián)合國協(xié)會(huì)主辦、外交部國際司支持、山東大學(xué)承辦的第十八屆中國模擬聯(lián)合國大會(huì)開幕。此次
2022-10-29 15:42
測評每天護(hù)膚一小步變美就更進(jìn)一步啦,因?yàn)閷τ诤眉∧w,我們不管是化妝還是素顏都會(huì)顯得好看,今天想和大家分享一下本人親自測評護(hù)膚品--鄭
2022-10-29 14:12