圖片“隨心定制” AI時代的真偽博弈
平臺管理效果參差不齊 “去水印”即可繞過監管
AI時代的真偽博弈
近日,安徽一名女子使用AI工具生成了高度逼真的“流浪漢臥坐餐廳”等圖片,發送給在外聚餐的丈夫,本想測試其反應,不料丈夫信以為真,當即報警求助。
民警現場核實情況,確認是虛假信息,對該女子的行為進行了提醒:“AI技術生成的內容雖逼真,但以此制造恐慌并引發警方出警,屬于浪費公共資源的行為。”
類似由AI生成圖片引發的“烏龍事件”并非個例:廣東廣州某小區業主的孩子用AI生成圖片后發給父母稱“流浪漢試圖闖進家門”,圖片被轉到業主群后引起樓棟業主恐慌;近日,多名電商平臺賣家曝光,有消費者利用AI工具生成商品變質、損壞的圖片,以此申請“僅退款”;山東威海網民張某為博取關注,使用AI工具編造“在監獄直播帶貨”圖片的謠言信息并發布,引發大量網民關注討論,張某因擾亂公共秩序已被公安機關處以行政處罰。
今年9月1日,《人工智能生成合成內容標識辦法》正式實施,要求人工智能生成合成內容應當通過顯著標識、數字水印等方式進行顯式與隱式標注,以保障內容的可識別性。這標志著,AI生成內容全面進入“持證上崗”時代。
然而,《法治日報》記者近日對多個主流平臺展開的調查顯示,新規落地效果參差不齊,仍有大量未標識內容在各大平臺持續傳播。這些愈發逼真的AI生成圖無標識“裸奔”,使“有圖有真相”的傳統認知面臨挑戰,公眾難辨真偽。
AI圖片“隨心定制”
記者在調查中發現,如今網絡上存在多款AI制圖軟件,一些社交平臺甚至自帶AI生成圖功能。只需上傳相關人物、背景素材,輸入一句指令,短短幾秒便能生成一張幾可亂真的AI圖片,還可隨意按照個人喜好對圖片的細節和內容進行調整。
受訪專家指出,如今AI生成圖片或視頻已很難從面部表情、肢體結構等方面識別真偽,如果不對內容作顯著標識,很容易讓人信以為真。
為調查平臺與創作者對AI生成內容的實際標注情況,記者在一周時間內于6個主流短視頻平臺及社交平臺的推薦頁面,分別隨機瀏覽并記錄了100條AI生成或高度疑似AI生成的視頻內容,并就其標注情況展開記錄。
經統計,在隨機瀏覽的視頻中,約有60%的視頻附有作者主動標注的AI創作聲明;約30%雖未獲作者標注,但被平臺在顯著位置標識為“內容可能為AI生成”。然而,在各大平臺中,仍有部分高度疑似AI生成的視頻,既無作者標識,也無平臺提示。
以某短視頻平臺一個擁有30多萬名粉絲的賬號為例,其發布的內容多以萌寵、兒童和農村生活為主題。其置頂的3條視頻,內容均呈現明顯的AI生成痕跡:小狗輕易撞破機場玻璃;行李箱的顏色瞬間變化;數十名長相雷同、頭身比例嚴重失調的嬰兒一邊走一邊喊“奶奶”。然而,其中僅1條在視頻右下角有AI創作標識。
在該賬號的首頁介紹中,明確附有其私人社交賬號,并注明“可學習教學”。記者添加該賬號私聊咨詢后,對方承認所有內容均為AI生成,并表示“120元即可獲取提示詞以及全套教程,包教包會”“制作一條AI視頻僅需十幾分鐘”。
靠AI生成內容引流賣貨
此外,AI生成內容也被用于引流與商業推廣。
“在××(地名),女兒已經過上了普通人里最好的生活”。近日,在某社交平臺中,記者頻繁刷到以此為標題的帖文。不同的帖文中,這個地名被換成北京、長沙、珠海等不同城市。
在這些帖文中,孩子父母的“人設”高度一致:爸爸做生意、媽媽在國企工作,父母學歷均為985本/碩。雖然是不同賬號發布的內容,但文案幾乎完全雷同,均為教育經驗分享或情感激勵類內容,極易引發家長群體的共鳴。
這類帖文的配圖普遍采用父母和孩子在校門前或景點前的合照。盡管賬號的IP地址顯示在不同地區,且背景不斷變化,但畫面中父母和孩子的形象高度一致。
同一張臉、同一個家庭,卻有多段“精彩人生”?記者下載相關帖文照片后發送給多個AI軟件詢問“是否為真實圖片”,得出的結論是“背景元素存在邏輯沖突、人物細節有AI特征,高度疑似AI生成圖”。
然而,平臺并未對這些圖片添加提示AI生成的相關內容,圖片本身也未包含任何水印標注。
記者進一步觀察發現,這些賬號用AI生成圖塑造“成功家庭”形象的目的實為兜售課程。在某賬號發布的帖文中,其表示“成功家庭”的核心秘訣是孩子的教育,進而圍繞塑造孩子數學思維,展開長篇論述。評論區內不少網友留言“求推數學思維課”。記者咨詢后,對方發來某數學課程商家賬號,該賬號經營的店鋪內售賣標價為5450元的新數理課程。
值得注意的是,部分賬號的主頁直接關聯某些線上教育機構的官方賬號,并在后綴標注“產品體驗官”“規劃師”等身份標識。這類綁定關系顯示出其內容與商業推廣間的明確關聯,客觀上構成軟性廣告,但大多數家長往往難以辨別其營銷性質。
除此之外,AI生成技術也被廣泛應用于直播帶貨與商品展示。
某社交平臺部分穿搭博主賬號分享的內容中,AI生成特征較為明顯:背景雜志上的人物和標題多為亂碼、電梯場景中樓層按鈕明顯失真,并非真人實穿。然而,平臺和博主均無任何關于AI生成的標注,博主還會通過評論區與用戶積極互動:當粉絲詢問服裝鏈接時,博主會直接引導至商品櫥窗;對于涉及身高、體重等個人特征的問題,博主也未提示任何AI生成屬性。
在某購物平臺上,多家銷售睡蓮的店鋪均使用相同的商品宣傳圖,圖片呈現明顯的AI制作特征:背景失真、花朵呈半透明狀。相關商品的買家評論最多達7萬余條,而其評論區卻幾乎未見成功開花的反饋。在偶有的一些開花圖片中,花朵數量和形態也與宣傳圖相差甚遠。而上述商品宣傳圖中,均未出現AI生成圖片的相應提示。
去標識就能“騙”過平臺
為驗證平臺對AI內容的識別能力,記者購買了一款宣稱“可去除品牌水印”的某AI軟件會員,使用該軟件可生成視頻并進行去水印處理。隨后,記者將有水印與無水印版本同時發布于4個主流社交平臺,且均未主動標注AI創作。
調查結果顯示,上述平臺對有水印的版本均作出“含AI生成內容”的標識,對于無水印內容,僅有一個平臺在后期補充了AI內容標識,并在后臺私信發來風險提示外,其余平臺均無提示。
為驗證AI生成內容標識系統的實際有效性,記者對當前市面6款使用人數較多的生圖軟件展開調查。結果顯示,雖然在內容生成時全部默認標注水印,但有些軟件只要充值成為“高級會員”,即可解鎖“去水印”功能。
此外,市面上存在多家提供低價去水印服務的商家。其中一款售價6元、宣傳“終身包更新”的軟件包,明確提示可去除圖片與視頻中的各類水印,并且不限使用時間和次數。
記者購買了該安裝包進行實測,在按照要求完成軟件安裝后,發現僅需對水印位置進行簡單涂抹,即可完整去除AI標識,且不破壞畫面整體效果。隨后,記者將去水印后的圖片上傳至4個社交平臺進行驗證,結果顯示,這些原本帶有AI水印的內容,在去除水印后均未觸發任何平臺的AI生成提示機制。
受訪專家認為,平臺在AI內容標識的落地執行方面還有很大的提升空間。不少網友把使用AI生成圖視為娛樂或惡作劇,卻忽視了背后可能存在擾亂社會治安、引發恐慌的風險。因此,在完善技術監管機制的同時,也要加強公眾網絡素養教育,提升公眾對AI生成內容的辨識能力和社會責任意識。
本報記者 趙 麗
本報實習生 王藝霏



































京公網安備 11010202009201號