中新網(wǎng)12月22日電 (記者 李金磊)數(shù)字化*.0時(shí)代，人類生活越來(lái)越離不開(kāi)人工智能。若何避免人工智能手藝被“惡用”？越來(lái)越多的虛擬人能否會(huì)代替部門實(shí)人職業(yè)？若何克制算法蔑視，讓人工智能實(shí)現(xiàn)可知、可信、可控、可用？

圍繞上述熱點(diǎn)問(wèn)題，清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng)、人工智能治理研究中心主任梁正承受了中新網(wǎng)專訪，停止解讀。

清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng)、人工智能治理研究中心主任梁正。受訪者供圖

避免人工智能手藝被“惡用”

AI換臉、AI換聲、三維重建、智能對(duì)話……深度合成手藝應(yīng)用日益普遍，催生了美顏美妝、影視造做、智能客服、虛擬主播、元宇宙等應(yīng)用辦事，但也存在著被歹意操縱的現(xiàn)象，一些犯警人員用來(lái)造做、復(fù)造、發(fā)布、傳布違法和不良信息，誹謗、貶損別人名望、榮譽(yù)，仿冒別人身份施行詐騙等。

如何抵御那些可能的“惡用”？梁正暗示，關(guān)于深度合成，AI換臉是一個(gè)典型的應(yīng)用。比來(lái)三部分出臺(tái)了《互聯(lián)網(wǎng)信息辦事深度合成辦理規(guī)定》，關(guān)于標(biāo)準(zhǔn)深度合成辦事提出了明白要求。

按照規(guī)定，供給人臉、人聲等生物識(shí)別信息顯著編纂功用的，應(yīng)當(dāng)提醒利用者依法告知被編纂的小我，并獲得其零丁同意。供給智能對(duì)話、合成人聲、人臉生成、沉浸式擬實(shí)場(chǎng)景等具有生成或者顯著改動(dòng)信息內(nèi)容功用辦事的，應(yīng)當(dāng)在生成或者編纂的信息內(nèi)容的合理位置、區(qū)域停止顯著標(biāo)識(shí)，向公家提醒信息內(nèi)容的合成情況，制止公家混淆或者誤認(rèn)。

梁正指出，利用小我肖像若是沒(méi)有征得同意，就去公共互聯(lián)網(wǎng)上收羅利用的話，那屬于違法行為。平臺(tái)上若是有類似應(yīng)用，平臺(tái)就有責(zé)任去監(jiān)視。即便是合法的利用，也要打上標(biāo)簽，讓各人曉得那不是實(shí)的，必然水平上能夠削減深度合成內(nèi)容產(chǎn)生的認(rèn)知誤差和社會(huì)誤導(dǎo)。若是平臺(tái)本身去供給那一類辦事，還要求用響應(yīng)的東西去識(shí)別它不是實(shí)在的，那就對(duì)平臺(tái)提出了更高的要求。

“不只要合法合規(guī)，并且還要合意。” 梁正暗示，要進(jìn)一步完美法令律例，嚴(yán)酷落實(shí)相關(guān)規(guī)定，成立健全賞罰軌制，小我要有維權(quán)意識(shí)，通過(guò)布施渠道維護(hù)本身合法權(quán)益，從而削減AI被歹意操縱的現(xiàn)象。

材料圖：2022世界人工智能大會(huì)上，人機(jī)互動(dòng)吸引不雅寡。 湯彥俊 攝

虛擬人已經(jīng)起頭代替部門實(shí)人職業(yè)

近年來(lái)，虛擬代言人、虛擬主播、虛擬演員歌手，越來(lái)越多虛擬人在被推向市場(chǎng)。人們擔(dān)憂，虛擬人在將來(lái)或?qū)⒋娌块T實(shí)人職業(yè)。

“在娛樂(lè)、新聞范疇，虛擬人的應(yīng)用越來(lái)越多，因?yàn)樗且粋€(gè)低成本、高效率的體例?！痹诹赫磥?lái)，虛擬人越來(lái)越多也是一種一定的趨向，并且已經(jīng)在替代部門實(shí)人職業(yè)了。好比，如今良多虛擬新聞主播，還有德律風(fēng)客服越來(lái)越多利用智能語(yǔ)音辦事?！澳莻€(gè)替代它必然是會(huì)部門發(fā)作的。”

重生事物開(kāi)展背后也存在一些隱患。梁正提醒，各人不要把實(shí)假弄混了，虛擬人的形象、內(nèi)容、對(duì)話都是基于訓(xùn)練的成果，或者是事先編好的，若是把它當(dāng)成實(shí)人的話，就會(huì)產(chǎn)生誤導(dǎo)。

“好比說(shuō)，跟對(duì)話機(jī)器人去對(duì)話要十分小心。關(guān)于有些敏感話題，因?yàn)樗澈鬀](méi)有意識(shí)，是順著你說(shuō)的，若是沒(méi)有干涉就可能產(chǎn)生誤導(dǎo)，但它沒(méi)有法子承擔(dān)責(zé)任。所以要對(duì)虛擬形象的深度合成打上標(biāo)簽，并限制它的利用場(chǎng)景。出格是在教育醫(yī)療如許一些敏感的高風(fēng)險(xiǎn)場(chǎng)景，人工干涉是必需的?！绷赫f(shuō)。

梁正認(rèn)為，虛擬人的應(yīng)用總體要分場(chǎng)景，在游戲、氣候預(yù)報(bào)、新聞播報(bào)等一些低風(fēng)險(xiǎn)場(chǎng)景問(wèn)題不大，但若是是高風(fēng)險(xiǎn)場(chǎng)景，就要十分小心，虛擬形象可以做什么，什么不克不及做，要把邊界劃清晰，好比心理陪同機(jī)器人，要評(píng)估它說(shuō)的話帶來(lái)的持久心理影響是什么樣的。

下一代人工智能應(yīng)該是可解釋的

人工智能不分開(kāi)算法，算法公允和算法蔑視話題也備受存眷。國(guó)外一些研究和媒體報(bào)導(dǎo)提到，算法開(kāi)發(fā)者或算法自己按照大數(shù)據(jù)積累存在種族、性別、文化等蔑視的可能性。

對(duì)此，梁正暗示，算法是根據(jù)數(shù)據(jù)訓(xùn)練出來(lái)的，數(shù)據(jù)的有偏性是招致算法自己有偏性的一個(gè)次要原因。所以，算法蔑視不是算法形成的，是社會(huì)自己形成的，是算法自己的手藝特點(diǎn)所招致的，利用大量已經(jīng)帶有傾向性的數(shù)據(jù)，算法也就會(huì)做出一種傾向性的判斷。

梁正指出，要想改動(dòng)那種成見(jiàn)，起首要糾正社會(huì)成見(jiàn)。所以在利用數(shù)據(jù)的時(shí)候，要停止人工干涉，在統(tǒng)計(jì)學(xué)上能夠通過(guò)一些模仿數(shù)據(jù)來(lái)做一個(gè)平衡，但底子上是要付與人工智能以常識(shí)，要把一些因果的因素考慮進(jìn)去，而不是單純只依賴于那種數(shù)據(jù)。

“絕對(duì)的算法公允其實(shí)不存在?！?梁正認(rèn)為，算法公允具有多維性，常常面對(duì)“不成能三角”式的挑戰(zhàn)。在公共辦理范疇中，起點(diǎn)公允、過(guò)程公允、成果公允三者同時(shí)實(shí)現(xiàn)根本是不成能的。絕對(duì)的公允現(xiàn)實(shí)上在算法的設(shè)想中其實(shí)也是做不到的，關(guān)鍵取決于你要什么樣的目的。

梁正暗示，要實(shí)現(xiàn)人工智能可知、可信、可控、可用?？芍簿褪强山忉?，那是最根底也是最復(fù)雜的層面，下一代人工智能應(yīng)該是可解釋的，若是說(shuō)它不克不及夠被解釋的話，就會(huì)限造它良多方面的應(yīng)用和各人對(duì)它的信賴。算法可解釋，那種前提下才氣夠安心去利用它。

“如今更大的問(wèn)題就是黑箱，現(xiàn)有的人工智能是基于數(shù)據(jù)訓(xùn)練出來(lái)，你不曉得中間發(fā)作的事，而新一代的人工智能就是要在數(shù)據(jù)的根底加上常識(shí)，以至要加上我們的邏輯，讓它可以根據(jù)我們可理解的體例運(yùn)行?！绷赫f(shuō)。(完)