在 TikTok 的短影音流中，一名自稱 Aliyah 的非裔女性對著鏡頭流淚，身穿西部牛仔服飾的她，聲聲訴說著自己經營手作皮帶扣生意的艱辛。影片上的文字挑動著觀眾的同情心：「即使身為黑人女性，我仍相信白人女性會願意停下 13 秒看這段影片，拯救我的生意。」這段充滿情緒張力的影片成功吸引了大量點閱與轉發。然而，真相卻令人背脊發涼：Aliyah 這個人根本不存在，她只是由 AI 生成的虛擬化身，連她宣稱「親手製作」的商品，實際上也是從 Shein 等廉價電商平台上低價批發來的工廠製品。
這種被稱為「AI 騙徒」（AI Grifters）的現象正在社交媒體上迅速蔓延。這些操作者利用生成式 AI 技術，批次生產出看起來極具親和力、擁有特定族裔背景的虛擬賣家。他們不只偽造長相，更偽造了整套辛酸的奮鬥史。透過情緒勒索與身分政治的操弄，這類帳號專門鎖定那些具備社會正義感、願意支持少數族裔小店的消費者。當消費者以為自己在支持一個努力生活的在地創作者時，背後其實是專業的「直運」（Dropshipping）團隊在收割這些善意，將廉價貨轉手獲取暴利。
這項發展對電商產業與社會信任產生了多重負面影響。首先是所謂的「數位黑臉」（Digital Blackface）問題，這類行為掠奪了特定族裔的文化形象與創傷經歷，將其工具化以換取點擊率與銷售額，嚴重傷害了真正的少數族裔創作者。其次，對於那些真正從事手作、誠實經營的微型企業來說，這種 AI 生成的廉價競爭幾乎是毀滅性的。AI 可以 24 小時不間斷地生產感人肺腑的行銷影片，而真正的職人卻需要耗費大量時間在研發與製作，兩者在演算法面前的競爭地位極度不對等。
更深層的擔憂在於，這種技術讓詐騙的門檻大幅降低。在過去，製作一段說服力強的詐騙影片需要專業演員與剪輯；現在，只需要幾個簡單的提示詞，就能生成一個能哭、能笑、能引發共鳴的虛擬人格。這不僅僅是廣告不實的問題，更是一場針對人類情感漏洞的大規模社會工程攻擊。對於 TikTok 或 Meta 等平台而言，這是一場難以應對的貓捉老鼠遊戲，現有的內容審核機制在面對這些近乎逼真的虛擬人像時，顯得力不從心。
我們之所以必須關注這類現象，是因為它標誌著 AI 應用進入了一個更危險的領域：情感操控的自動化。當科技不再只是用來輔助創作，而是被用來大規模複製同情心、偽造真實感時，網路上最基礎的「信任」根基將會瓦解。當有一天，我們在螢幕上看到任何請求幫助、分享故事的內容，第一反應都變成懷疑其真實性時，社會的共情能力將會嚴重萎縮。對於台灣的消費者與數位創作者而言，這是一個警訊——在資訊爆炸的時代，我們不僅要辨別資訊的真偽，更要學會警惕那些被技術精心包裝過的情緒陷阱。