小商家正在用AI克隆明星聲音“假帶貨”
某綜藝節目上，“唐嫣”居然說自己女兒小時候比同齡小孩矮很多，喝優米複合鈣，半年時間就追上來了。
“應采兒”也表示自己孩子有幾年一直不長個，後來給他弄的元德吉鈣一下漲了幾公分，“謝娜”還在一邊幫腔：“楊紫跟我說過。”
“黃景瑜”則是透露自己一直是“睡覺困難戶”，一直很痛苦，好在從中醫那裡拿了希珂黎葡萄飲，睡眠品質直線上升，精氣神都回來了。
現在明星帶貨都這麼生猛，綜藝上直接明晃晃給不知名品牌帶貨？
新識研究所最近觀察發現，最近在抖音、快手、B站、小紅書等視頻平臺上，搜索“跟著綜藝學XX”詞條，跳出一大堆綜藝節目切片。節目裡明星或者講師會說明自己親身遭遇的困擾，因為吃了某種產品得到明顯改善，視頻評論區還會給用戶指路去淘寶、京東搜“XX店鋪”。
然而這些視頻切片全是“移花接木”，內容雖用了綜藝節目的片段，但人物語音和字幕等卻是商家以AI技術進行篡改偽造的，目的是植入品牌和帶貨。平臺方也沒有提示“該畫面可能由AI生成，請注意鑒別”。
不但多位名人和節目IP被造假，名譽和肖像權受損，消費者也在不知情的情況下買了假冒偽劣產品，平臺也成了這場“造假風波”中推波助瀾的工具，最終受益的只有那些造假的商家。
01
AI打造假明星代言，帶貨套路防不勝防
近年來，消費者對減肥健身、美容養顏、疾病預防的關注度與日俱增。
部分白牌商家也是抓住了這波風向，在年輕人聚集的社交平臺，借用綜藝節目中“專家”和“明星”的權威背書，讓消費者誤以為真，掉進他們精心編制的陷阱裡。
向晴最近刷抖音看到一檔名為《國醫少年志》的綜藝節目，其中有中醫介紹如何有效減小肚子贅肉時，除了介紹蘋果、紅棗、枸杞等食材用以煮水飲用能提升代謝外，還特意提了一句“身怡安的阿膠八珍膏就很不錯”。
心動的向晴當即根據品牌名在電商平臺搜索並花費200多元下了一單。幾天體驗後，向晴發現減肥效果遠沒有達到視頻宣傳的程度，體重沒有絲毫變化。
被騙的還有大學生石芊芊，她某次看到《中國中醫藥大會》短視頻切片時，專家稱zoao葉黃素對黃斑很有效果，她搜索發現這個牌子有旗艦店，用戶評價裡也有大批網友稱買給孩子吃，便放心買了5盒，結果吃了兩瓶沒啥感覺，皮膚還顯著發黃。
後來她去諮詢了專業醫生，對方稱這只是普通壓片糖果，都不算保健品，可以緩解眼睛疲勞，吃多了會傷肝，每天吃點藍莓效果是差不多的。
新識研究所發現，類似視頻切片在短視頻平臺中比比皆是，由於使用了AI聲音克隆技術，音訊確實是根據明星本人聲音複製過來，並且仿製了節目組風格的字幕，不仔細甄別還真難以分清真偽。
究其緣由，《國醫少年志》《中國中醫藥大會》等綜藝節目中，由於有專家傳播健康養生類知識，通過短視頻傳播後被一眾消費者所追捧，也讓他們成為部分商家收割的物件。
這些切片傳播帳號幾乎全是個人帳號，之前還發有個人生活視頻，私信聯繫並未得到回復，疑似是長期未使用的垃圾帳號或是被盜帳號。
抖音客服稱，對於視頻違規，平臺有自動檢測機制，用戶也可以進行舉報，但客服無法單獨標記帳號給予封禁之類的操作。
對此，新識研究所詢問了這些視頻中出現的品牌店鋪，絕大部分都是2024年新註冊的，大部分客服都稱自己的產品通過食藥監備案，也不否認在出現在產品資訊出現在視頻切片裡，不過這些店鋪的粉絲量基本都只有幾千，商品評論區也是清一色的好評。
值得注意的是，不少商品資質不明、廠商不清，搜索帶貨的“茯苓膏”“丁香膏”“赤菊膏”會跳出一大堆品牌和產品，它們的宣傳封面、產品包裝、文案說辭幾乎一樣，生產廠商卻不盡相同。
這種隱性的帶貨方式和真假難辨的畫面，讓不熟悉AI技術的中老年人很難辨別，也自然成了被收割的對象。在社交平臺上可以看到不少用戶吐槽家裡老人聽信“專家視頻”買回一大堆高價無用的保健品，還推薦給身邊的朋友。
這些現象顯然也被節目方關注到，1月3日《國醫少年志》官方發文表示，部分社交媒體上行銷帳號未經授權擅自剪輯節目圖片、視頻實施產品推廣行為，歪曲了節目內容。節目組從未授權任何協力廠商帳號利用節目內容宣傳相關的任何產品，“任何非我司官方帳號或非節目原片所發佈的我司及與我司合作生產相關產品的資訊均為虛假資訊。”
但如今過了兩個月，根據節目仿冒的不實內容仍在被傳播，相關現象愈演愈烈，這種造假方式依舊在“野蠻生長”。
02
明星們，要被AI“變聲假帶貨”玩壞了
在廣電總局網路視聽司發佈針對“AI魔改”的管理提示新規出臺3個月後，互聯網上仍頻繁有AI魔改的音訊、視頻出現，影視角色、明星、甚至企業家，都成了被魔改的對象。
通過“克隆”名人聲音製作的惡搞、獵奇類視頻，在相關平臺播放和點贊量均不低，有的甚至還被推上平臺熱搜。發佈者也相應獲得流量曝光、粉絲增長、廣告收入等播放收益。
今年兩會期間，全國人大代表、小米集團創始人雷軍建議“加強‘AI換臉擬聲’違法侵權治理”，他本人曾是“AI換臉擬聲”的“受害者”，在過年期間被製作了大量AI銳評惡搞視頻。
新識研究所在應用商店搜索發現，“AI配音”相關App有數十款，下載量最高超千萬次。
經過新識研究所實測，只需幾塊錢，就可以使用聲音克隆App複製音色，隨便錄幾秒鐘的音訊，AI就會根據聲音生成各類內容的出鏡口播視頻，甚至連錄製者在發音時的吐字習慣也能模仿。
對於一些較短的語句，很難識別出這是機器合成的語音，但只要多試幾次，還是很容易得到好用的素材。通過語音大模型生成的名人聲音，基本可以以假亂真，且錄入名人聲音不需要提供任何授權證明。
除了雷軍，靳東、劉曉慶等演員都成了被侵權“重點物件”，還有平臺利用AI技術，將古天樂、林峰等港星的肖像、聲音及視頻片段，合成為線上賭博、遊戲的代言宣傳片。
3月5日，兩人的經紀公司隨後發佈了聲明，明確指出該宣傳片是通過合成技術製作，並非真實合作內容。
聲明中強調，兩人並未與任何相關遊戲平臺進行合作，也未代言或推廣其業務。公司提醒社會各界人士提高警惕，不要輕信此類虛假宣傳，以防上當受騙。對於任何盜用兩人名義或肖像進行虛假宣傳或詐騙的行為，經紀公司表示將堅決追究法律責任。
北京嘉濰律師事務所羅鈺律師表示，民法典規定：“對自然人聲音的保護，參照適用肖像權保護的有關規定。”因此，明星對其聲音也享有類似于肖像權等人格權益，未經其授權，不得擅自使用其聲音，利用AI技術冒用明星的聲音的行為構成侵權。
通過AI技術冒用明星聲音打廣告，導流到其他電商平臺內的賣家。在此過程中，冒用明星聲音發佈廣告的主體屬於廣告發佈者，廣告導流到的電商賣家是廣告主。廣告發佈者發佈的廣告內容是虛假的，其中表現之一即冒用明星聲音騙取受眾信任。所以，廣告主即電商賣家和廣告發佈者即短視頻或直播平臺的帳號的經營者需要對虛假廣告承擔連帶責任。
03
寫在最後
AI換臉最開始確實造福了不少行業。
不論是“AI孫燕姿”讓孫燕姿再度成為頂流女歌手，還是用AI視頻復活逝去的親人，彌補人生遺憾，更不用說直播電商通過AI克隆人讓主播成了24小時坐班的“牛馬”，讓頭部平臺和電商主播賺得盆滿缽滿。
但技術的進步，如果得不到合法應用，“AI詐騙”會比以往所有的詐騙手段更難防備、排查和整治。
隨著AI技術的迅猛發展和使用者規模的指數級增長，立法規範AI生成合成內容的製作和使用，已經迫在眉睫。
文中受訪者均為化名
留言列表
