在社交平台上分享自己的換何破自拍、美照記錄生活，臉盯如今是上普很多人的習慣。但隨著AI技術發展，通人個人形象被盜用的解讀解維境侵權事件也屢屢發生。為了從發布源頭治理AI技術濫用亂象，權困早在去年9月開始實施的換何破《人工智能生成合成內容標識辦法》就規定，相關內容發布平台必須對生成合成內容進行檢測並增加顯著的臉盯AI標識。
多數社交平台仍未依規
對AI生成視頻標注
近期，上普多部門針對AI應用亂象出台規定，通人加大整治力度。解讀解維境那麽，權困現在各個社交平台、換何破短視頻平台上相關情況怎麽樣？臉盯記者進行了調查。
記者搜索發現，上普網上有大量能生成AI視頻的免費工具，用戶都可通過“一鍵上傳素材、選擇模型、點擊生成”的簡單步驟，在短時間內生成高質量且流暢的AI換臉視頻。社交平台上教人如何生成AI換臉視頻的詳細教程也不在少數，技術門檻較低。
在測試中，技術人員將一段15秒的男子跳舞視頻上傳至某免費生成AI視頻的網頁，並將自己的頭像照片同步上傳。當替換人臉的指令發出後，不到1分鍾，合成的視頻就做好了，表情動作生動，麵部光影流暢，真假難辨。技術人員表示，能做到的還不止於此。隻上傳頭像照片，輸入指令，也能無中生有，得到一個全身的跳舞視頻。
業內技術專家 何覃：處理非常順滑，整個動作換臉之後的效果也很絲滑，其實肉眼是完全分辨不出來的。現在這種AIGC生成技術，它已經可以做到多人複雜場景下，根據某一個人去製作視頻，並且動作連貫性、一致性都保持得非常好，也符合物理規律。
隻要用照片發出指令，就能做出針對任何人的換臉視頻。為防範利用AI合成技術傳播虛假信息、實施詐騙等風險行為，2025年9月我國開始實施的《人工智能生成合成內容標識辦法》明確要求相關服務主體要對生成合成內容進行檢測，並在發布內容周邊添加顯著的AI提示標識。
其中提到，平台應提醒用戶主動聲明發布內容中是否包含AI合成內容，而就算用戶不聲明，平台也應核驗文件元數據中是否含有隱式標識，檢測合成痕跡，並做出標注。
今年4月，在技術人員許可下，記者嚐試將經過AI換臉的視頻發布到多家社交視頻平台上，結果發現，幾乎在所有平台上，AI生成的視頻都能在沒有任何標注的情況下直接發布並傳播。
4月，網信部門查處“剪映”“貓箱”“即夢AI”等多個未有效落實人工智能生成合成內容標識規定要求等問題的網站平台。5月3日，處置“未規範標注信息來源，誤導公眾認知”的違規自媒體賬號9.8萬餘個，並進行通報。在有關部門持續加大整治力度的背景下，相關平台的改進情況如何呢？
近期，記者又嚐試將AI換臉視頻、AI生成的道路視頻，發布到幾個主要的社交平台、視頻平台上，發現除了極個別平台對部分帶人物的AI視頻標注了“疑似使用了AI生成內容”，其他平台依然沒有依照國家規定對上傳的AI生成視頻做出標注，就已經允許在平台內發布、傳播，有的還能花錢“加熱”推廣，讓短時間內能有更多人看到。
在調查中記者發現，個別平台在發布過程中甚至都沒有讓用戶聲明視頻是否為AI合成的選項。記者看到，視頻發布一天後，這些AI生成的視頻在平台上依然無任何標注，但卻能正常瀏覽、評論、轉發。在有的平台上，一個AI生成視頻的瀏覽量突破三千，有的平台上視頻獲得了額外的推流獎勵，另外一個平台上，甚至還漲粉20多個。
業內人士表示，市麵上現有技術其實已經能夠識別視頻是否為AI合成。測試中，技術人員將AI換臉視頻上傳到一軟件進行識別，15秒的視頻，不到3秒就出了鑒定結果，為人工智能合成。
業內技術專家 何覃：目前在業內，AI生成合成的這種圖片視頻或者是音頻，它直接生成的原圖，基本上鑒定準確率都可以做到98%以上，但是在網絡媒體傳播過程中，會有一些信息損失，信息壓縮的過程中，一些生成合成的痕跡會丟失掉，就會降低檢測的準確率。大部分情況下還是能保持比較高的準確率，能鑒定檢測出來的。
雖然準確率有所差異，但現實中已具備對AI視頻進行識別鑒定的技術條件。
中國政法大學教授 郭旨龍：其實平台掌握了一係列的類似於公權力的執法權限，就是法律賦予它去處置涉嫌違法的信息，但是它卻怠於履行這種義務。
4月初，針對AI換臉侵權問題，國家網信辦出台《數字虛擬人信息服務管理辦法(征求意見稿)》，麵向全社會公開征求意見。當前，中央網信辦已在全國範圍內部署開展“清朗·整治AI技術濫用”專項行動。強化AI技術源頭治理，推動網站平台提升檢測鑒偽能力；對存在利用AI技術製作發布謠言、色情低俗內容等突出問題的違規賬號、MCN機構和網站平台進行處置處罰。
AI換臉盯上普通人？
多人遭AI盜臉侵權
發布源頭平台的把關失守，變成了個體被侵權時被動的維權困境。明星形象被盜用屢見不鮮，而如今AI盜臉也盯上了普通人。記者注意到，僅最近半年，就有多人遭遇自己的臉被通過AI技術盜用的事件。
遭遇AI換臉造黃謠 視頻下架一波三折
4月，據網友小劉講述，他在社交賬號上發布的個人照片被人通過AI合成了一段脫衣服跳舞的低俗視頻，並發布到另一個視頻平台上。小劉接受媒體采訪時表示，他發現時，視頻已發表近三天，點擊量達1.2萬，下方評論超100條。
網友緊急電話聯係平台下架視頻，並先後以“色情低俗”“損害個人名譽”為由多次舉報，平台反饋會“重點關注該賬號”，但直到次日早上，視頻仍在平台傳播，點擊量還在攀升。次日下午，視頻才被下架，但涉事賬號未受到處罰。
多人社交平台照片遭AI短劇盜用
而這並非個例。除了被“造黃謠”，還有人的照片被AI短劇盜用盈利。前段時間，有網友發現，自己發布在個人社交平台上的漢服寫真照片被紅果AI短劇《桃花簪》擅自使用，衣服、配飾、妝容等都和自己一樣，但在劇裏被醜化成一個貪財好色的反派角色。
而被這部短劇盜臉的還不止他一個。該短劇在播出平台上有著超四千萬的熱度，傳播範圍廣泛。事情爆出後，平台下架劇集，暫停出品方上傳劇集15天，但對於侵權行為帶來的傷害，當事人仍在維權。
中國社會科學院大學互聯網法治研究中心主任 劉曉春：AI視頻的成本低，並且它能快速生成，有的時候是一個謠言形成一個矩陣，快速大規模傳播，造成傷害的範圍會越來越大。一旦落到每一個人頭上，可能是難以挽回、難以估量的損失。
AI換臉視頻侵權 平台或承擔連帶責任
專家表示，生成發布他人形象的視頻，需單獨獲得他人同意。否則會構成侵犯他人的肖像權、個人信息權、名譽權等，情節嚴重時構成誹謗罪，觸犯刑法。
中國政法大學教授 郭旨龍：其實平台接到通知之後，它是能夠很輕易判斷AI視頻到底有沒有侵犯別人的人格權利，應當馬上采取手段斷開鏈接。如果平台沒有做到這一點，一般情況下就可以認定平台是有重大過失的，應當對擴大的侵權後果承擔連帶責任。
然而，現實中維權麵臨不少難點，存在違法成本低、維權成本高的情況。
中國社會科學院大學互聯網法治研究中心主任 劉曉春：發現有侵權情況的存在比較難，因為普通人沒有這麽專業的能力去進行廣泛的監測。它會有去找到侵權主體以及進行舉證、取證這樣的很大的難度。
降低維權門檻
提高AI造謠違法成本
那麽，為什麽一些平台怠於履行國家要求的標識義務？如何降低維權門檻，提高侵權人的違法成本？
中國政法大學教授 郭旨龍：視頻平台每天上傳的視頻成百上千萬條，如果對於每一個上傳視頻都進行人工智能生成內容識別，它可能需要花費一定的技術成本、人力成本。第二個方麵就是人工智能生成視頻能夠在網絡上暢銷，就意味著有了關注度，平台能夠獲取一係列的利潤。第三個原因就是現在法律追責鏈條或者說追責動力可能還有不足的地方，被侵權人提起侵權訴訟也好，提起誹謗罪的自訴也好，它都存在著一係列搜集證據、固定證據的技術上和經濟上的困難，這樣的話平台它就有僥幸心理。
對於AI生成的視頻發布，不少平台存在著“重事後處置、輕事前防控”的審核邏輯。普通人維權則麵臨“發現難、舉證難、追責難、維權成本高”的多重困境。專家表示，應構建一個“事前預防，事中阻斷，事後追責”的全鏈條治理模式。也就是把關視頻發布源頭，及時停止侵權視頻傳播，對涉事賬號作出懲戒，協助被侵權人取證等。
整治AI換臉侵權亂象 降低維權成本 提高違法成本
中國政法大學教授 郭旨龍：對於人工智能生成內容舉報，麻豆人妻性爱應當幫助平台或者說督促平台出台更為便捷的舉報渠道，而且必須是分級分類，比如說涉性的這種情節比較嚴重的事件，就應當有專人馬上去審核、處理。而不是所有種類、所有級別的信息都等著，按照流程等一天兩天或者三天。
專家表示，也可在民事侵權製度上創新，增強懲罰性賠償，提高違法成本。
中國政法大學教授 郭旨龍：現在的懲罰性賠償可能隻局限於環境汙染或者是知識產權等特定的侵權案件當中，在這種利用人工智能侵犯人格權的案件當中，也要考慮納入類似的懲罰性賠償製度。因為平台侵犯的可能不是一個人，但是隻有一個人去起訴它，它有僥幸心理，它的獲利可能是巨大的，如果法律有懲罰性賠償製度，這個時候它就會考慮要積極有效去預防這種不作為所帶來的巨大懲罰。
造謠一張嘴，辟謠跑斷腿，這在AI技術盛行的當下更需要警惕。平台社區中，如果亦真亦假的信息越來越多，隻會導致劣幣驅逐良幣、信任崩塌、用戶人人自危。人人有創作權，但不能淩駕於法律之上，更不能以損傷他人和公眾的利益作為自己流量變現的手段。共同維護一個清朗的網絡環境是長遠發展的唯一捷徑。