中新經(jīng)緯6月14日電 題：直播虛擬人也會“塌房” 須重視合規(guī)問題

作者 黃斌 北京德和衡律所元宇宙科技與法律研究中心主任、《互聯(lián)網(wǎng)法律評論》特約專家

持續(xù)近三年的新冠疫情讓人們開始習(xí)慣于長時間的“線上工作和學(xué)習(xí)”，同時推動虛擬人大規(guī)模集中出現(xiàn)，以滿足人們的“線上工作和娛樂”。虛擬人是連接現(xiàn)實、開啟元宇宙的重要角色，并且成為元宇宙中一條重要的交互賽道。與此同時，商家的虛擬人直播如雨后春筍般出現(xiàn)在各大平臺，“虛擬人+故事場景”直播顛覆了傳統(tǒng)的真人直播模式，刷新了用戶對平臺、品牌的認識，構(gòu)建起一種全新的營銷生態(tài)。為實現(xiàn)可持續(xù)運營，平臺和直播虛擬人商家有必要高度關(guān)注其中的運營、合規(guī)風(fēng)險。

直播虛擬人發(fā)展概況

虛擬人起源于20世紀80年代，近年來隨著建模、AI、動捕、渲染技術(shù)的發(fā)展進入高速成長期。2021年10月20日，廣電總局發(fā)布《廣播電視和網(wǎng)絡(luò)視聽“十四五”科技發(fā)展規(guī)劃》，在虛擬主播方面提出“探索短視頻主播、數(shù)字網(wǎng)紅、直播帶貨等虛擬形象在節(jié)目互動環(huán)節(jié)中的應(yīng)用，增加個性化和趣味性”，首次明確地鼓勵和支持虛擬人的發(fā)展。“現(xiàn)在進入了一個時間點，已經(jīng)不太需要去教育客戶，同他說為什么要給你推虛擬人，很多品牌直接問有哪些虛擬人可以和他們合作，目的性非常強，這也和市場成熟度有關(guān)，”動圖宇宙創(chuàng)始人丁焱表示。

2022年6月8日，Anycolor于東京證券交易所上市，這是全球首家以虛擬人為主營業(yè)務(wù)的上市企業(yè)，其旗下有彩虹社，也有直播事業(yè)部。如今出現(xiàn)了一些品牌虛擬人深度定制，以及提供虛擬人IP代運營服務(wù)的公司，平臺、商家都開始定制品牌虛擬人，或者與提供虛擬人IP代運營服務(wù)的公司合作，試圖以虛擬人形象的IP價值輸出打開在Z時代中的影響力，拓展新消費人群。

直播虛擬人同樣會“塌房”

業(yè)界普遍認為，真人主播有人設(shè)崩塌的風(fēng)險，而直播虛擬人不存在人設(shè)崩塌的風(fēng)險。但事實上，虛擬人人設(shè)同樣也會崩塌。人工智能虛擬人是通過大量的預(yù)設(shè)人格相關(guān)數(shù)據(jù)進行機器學(xué)習(xí)，然后通過算法進行自動化決策，并與用戶實現(xiàn)交互。人工智能虛擬人的人格塑造可能貫徹了平臺、商家的商業(yè)目的，該商業(yè)目的可能因為一些歧視和偏見導(dǎo)致人設(shè)崩塌。算法設(shè)計者固有的偏見和歧視也有可能導(dǎo)致人設(shè)崩塌，例如，某品牌智能音箱在回復(fù)用戶心動周期的相關(guān)問題時建議用戶自殺，某人工智能軟件將黑人識別成靈長類動物等。

《頂流虛擬偶像A-SOUL一夜塌房，背后的五個女孩真的就是工具人？》一文也指出：但無論是AI直播，還是完全按照劇本設(shè)計的人設(shè)，都不是粉絲真正想要的。資本或許認為粉絲愛的是皮套，但是對很多粉絲來說，虛擬偶像提供的情緒價值比冰冷的皮套更重要。皮套和靈魂是相輔相成的，粉絲第一眼肯定是被皮套吸引，但有趣的靈魂才是維持人氣的關(guān)鍵。

真人驅(qū)動型虛擬人及人工智能虛擬人面臨合規(guī)問題

虛擬偶像雖然是技術(shù)產(chǎn)物，但目前還是得依靠人來驅(qū)動。智能虛擬人是指利用人工智能技術(shù)，通過多模態(tài)技術(shù)和深度學(xué)習(xí)模型的運算結(jié)果，實時或離線驅(qū)動虛擬人的語音表達、面部表情、具體動作，其通過人工智能技術(shù)打造直播虛擬人的完整人設(shè)，并賦予直播虛擬人“靈魂”。

人工智能的運用應(yīng)符合可理解原則和公平原則，人工智能應(yīng)該能夠為人類社會現(xiàn)有的道德所理解；人工智能的運行應(yīng)當(dāng)保持透明可見的原則，不讓特定個人或少數(shù)群體遭受偏見、侮辱和歧視；人工智能應(yīng)當(dāng)尊重人格尊嚴和個人隱私，保障人工智能參與者的知情權(quán)和選擇權(quán)；最后，人工智能的發(fā)展應(yīng)當(dāng)可控，人類不從屬于人工智能，也不應(yīng)受到人工智能的脅迫，保障人類在人工智能中的決定作用，當(dāng)人工智能失控時，應(yīng)當(dāng)有毀滅裝置。針對智能虛擬人的直播運營，平臺及商家需要關(guān)注的合規(guī)風(fēng)險如下：

對于匯集大量直播虛擬人的平臺而言，平臺的善良管理者義務(wù)是與其從虛擬人直播中直接獲得的經(jīng)濟利益正相關(guān)的(例如，在直播虛擬人獲得的打賞中分成)，獲得的經(jīng)濟利益越大，自然應(yīng)對此負有較高的注意義務(wù)，其應(yīng)當(dāng)承擔(dān)的法律責(zé)任和注意義務(wù)與之前所述真人驅(qū)動型虛擬人基本一致。

商家在制作和運營直播虛擬人時，應(yīng)當(dāng)堅持科學(xué)倫理先行。倫理是指在處理人與人、人與社會的相互關(guān)系時，應(yīng)遵循的道理和準則，是指一系列指導(dǎo)行為的觀念，是從概念角度出發(fā)，對道德現(xiàn)象的哲學(xué)思考。它不僅包含處理人與人、人與社會、人與自然之間關(guān)系時的行為規(guī)范，而且也蘊涵著依照一定原則來規(guī)范行為的深刻道理。

人工智能最大的弱點是，缺乏直接的感受能力，在價值判斷上存在弱點，而人工智能倫理準則所倡導(dǎo)的造福人類、避免傷害、公平正義等價值理念，為人工智能技術(shù)層面的開發(fā)和運用提供了價值判斷標(biāo)準。

以機器學(xué)習(xí)為代表的人工智能技術(shù)需要大量數(shù)據(jù)，數(shù)據(jù)是機器學(xué)習(xí)的根基，數(shù)據(jù)的真實性、完整性，以及數(shù)據(jù)的規(guī)模和質(zhì)量是人工智能進行分析與建模的關(guān)鍵。人工智能公平性的核心基礎(chǔ)是數(shù)據(jù)，數(shù)據(jù)的不公平主要體現(xiàn)在：不同群體在數(shù)據(jù)中所占比例不均衡，數(shù)據(jù)固有的歧視，數(shù)據(jù)固有的偏見，數(shù)據(jù)的包容性不夠，數(shù)據(jù)的通用性及數(shù)據(jù)的準確性等。數(shù)據(jù)具有固有的歧視和偏見，是因為一些帶有歧視和偏見的價值觀映射在數(shù)據(jù)上。如果沒有對上述數(shù)據(jù)不公平現(xiàn)象進行調(diào)試和校驗，這種不公平將反饋到人工智能算法模型，并最終映射到人工智能的公平性上。

算法是一種“數(shù)據(jù)處理活動”，包括收集和處理數(shù)據(jù)，挖掘數(shù)據(jù)價值，涵蓋數(shù)據(jù)的生成、采集、存儲、轉(zhuǎn)換、處理和輸出的全過程。智能直播虛擬人需要通過算法實現(xiàn)自動化決策，以達到與用戶之間的強互動。算法的出現(xiàn)和使用，是為了執(zhí)行大規(guī)模重復(fù)的任務(wù)和計算，是為了實現(xiàn)商業(yè)上高效快速的交易，是為了實現(xiàn)公權(quán)力具有廣度、深度和效率的運行。隨著算法的日益廣泛應(yīng)用，算法成為促進政治、經(jīng)濟、文化和社會發(fā)展的工具，應(yīng)當(dāng)遵循人類共同價值觀，遵守國家或地區(qū)的倫理道德；算法應(yīng)當(dāng)尊重人類主體地位，給用戶選擇權(quán)和決策權(quán)；算法應(yīng)當(dāng)抑制人類社會無處不在的歧視和偏見；算法應(yīng)當(dāng)保障用戶的人身權(quán)和財產(chǎn)權(quán)。(中新經(jīng)緯APP)

本文由中新經(jīng)緯研究院選編，因選編產(chǎn)生的作品中新經(jīng)緯版權(quán)所有，未經(jīng)書面授權(quán)，任何單位及個人不得轉(zhuǎn)載、摘編或以其它方式使用。選編內(nèi)容涉及的觀點僅代表原作者，不代表中新經(jīng)緯觀點。

責(zé)任編輯：孫慶陽 實習(xí)生 李佳文