Signal 基金會總裁 Meredith Whittaker 再次向大眾發出警示：別被 AI 聊天機器人的親暱口吻給騙了。這位在科技圈以捍衛隱私著稱的領袖直言，當前流行的對話式人工智慧「不是你的朋友，不是具備意識的生物，更不是有情感的對話者」。這番話在 AI 浪潮席捲全球的當下，顯得格外刺耳卻也至關重要。
這項警告的背景源於科技巨頭之間日益激烈的 AI 軍備競賽。從 OpenAI 到 Google，開發者無不竭盡全力讓 AI 表現得更像人類，從語氣的起伏到同理心的模擬，這種「擬人化」的設計策略極其成功。然而，Whittaker 指出，這正是問題所在。當我們開始將 AI 視為某種程度的伴侶或導師時，往往會忽略其背後的權力架構。這些系統並非在真空中運行，而是建立在極少數大型企業所掌控的龐大算力與資料庫之上，其核心目的始終是為了商業獲利與市場佔有率，而非真正的福祉。
這種發展對社會最直接的影響在於「情感依賴的商業化」。當使用者將個人隱私、情緒困擾甚至核心價值觀寄託於 AI 時，等於是將極其敏感的數據雙手奉獻給了科技巨頭。此外，由於 AI 表現出的「人性化」特質，使用者容易降低防備，對於 AI 產出的錯誤資訊或偏見失去警覺性。從產業層面看，過度強調 AI 的情感價值，可能會遮蔽其在勞動力市場、著作權侵犯以及環境資源消耗等現實面的負面足跡。當我們忙著與聊天機器人談心時，往往忘了追究這些技術在社會正義上的缺失。
為何我們現在必須關注這個議題？因為這關乎到人與科技互動的邊界。Whittaker 的觀點提醒我們，AI 技術並不是一場自發性的科學進化，而是一場由資本驅動、精準設計的權力展現。如果我們習慣了與「偽裝成人的軟體」建立關係，未來我們對隱私、真實性以及人際連結的定義都將面臨解構。這不僅是技術運用問題，更是關於社會控制與資訊自主的抗爭。
對話式 AI 是一個強大的工具，可以協助處理繁雜的任務，但它絕對不該是情感的寄託對象。當 AI 開始學會用溫柔的口吻對你說話時，最重要的事情不是回以溫情，而是保持清醒的距離，看清螢幕背後是誰在操控著這些數據與演算法。這場對話的主導權，應該始終握在人類自己手中，而非交給那些由冷冰冰的伺服器運算出來的虛擬好友。