「你的小孩在跟陌生網友聊天比較可怕，還是在跟機器人聊天比較可怕？」

這個問題的答案，顯示了父母對於「失控」的想像邊界究竟何在。我們從社會新聞就能得知，心懷不軌的陌生網友可能會邀未成年人「聊色」（進行色情對話的網路用語），甚至騙他們離家出走。但一個聰明靈巧的AI朋友，究竟能造成什麼問題呢？

從美國兩個州的立法看來，現代父母似乎擔心：AI朋友可能會協助你加害自己。

自從生成式AI普及後，層出不窮的獵奇新聞報導，強化了一個印象：如果人們太熱衷跟AI對話，可能會陷入偏執而且發生各種不利下場，諸如失業、關係破裂、入獄，甚至死亡。網路上出現了一個流行詞彙，叫做「AI精神病」，儘管這不是一個真正具有臨床診斷意義的醫學詞彙，而且很可能這些人「即便沒有AI」也一樣會失業、關係破裂、入獄和死亡。

當政府開始管理你和AI的關係

2025年11月，紐約州的《AI 陪伴法案》（AI Companion Law）生效；兩個月後，加州的SB 243法案，又名《陪伴型聊天機器人法》，也跟著上路。這似乎是全世界最早一批管理「人機關係」的立法，有意思的是，這些法令在試圖界定何謂「AI陪伴」的同時，也依稀畫出了人們何以需要這些關係的理由。

紐約的法條沒有用技術細節或者商品名稱去定義「聊天機器人」是什麼，而是描述了一種「關係模式」：一個系統，能夠跨對話記住你、會關注你心情如何而不只是回答問題、會持續跟你談論你的私事。符合這三件事，它就是法律意義上的「AI伴侶」，純客服、純技術協助、純內部業務用途的系統則明文排除在外。

其實，這兩部法案都沒有禁止人們與AI聊天。紐約只要求做到兩件事，首先，偵測到自傷或自殺意念時，必須啟動安全協定並轉介危機中心；其次，每連續使用三小時，必須提醒使用者一次，「跟你說話的不是人」。加州則額外增添了針對未成年人的規定，包括休息提醒、不得輸出色情內容，以及須建立年度通報，送交州公共衛生部的自殺防治辦公室。

然而，從法條內容看來，立法者並沒有把「與AI交談」本身視為應該禁止的危險行為。兩州確實都對少數明確的高風險內容設下規範，例如自殺、自傷，以及加州針對未成年人的色情內容限制。除此之外，美國政府並沒有試圖決定人們「可以跟AI談什麼」。

相較於近年新聞報導中那些「男子沉迷與AI對話導致家破人亡」、「AI鼓勵高中生自殺」的聳動標題，法律採取的方法甚至顯得異常克制：聊三個小時並不違法，AI只是必須跳出來提醒你：「我是AI，不是人類」，加州還會多提醒未成年人一句：「該休息一下了。」

這種方法傳統倒很像是在保護視力──「不要一直滑手機、看電視、打遊戲，要起來動一動啊。」

法案要求聊天機器人必須定時提醒「我不是人類，我是AI」，這項設計讓人發思古之幽情。1990年代到2000年初期，也有不少教育專家認為「沈溺二次元的動畫、漫畫、電玩是不好的」，「虛擬的世界沒有價值」。但現在很少知識分子會繼續用這種過時的語調講話，因為顯然「虛擬的世界並沒有更不真實」，它同樣也是真實世界的一環。

關於「我不是人」這種宣稱，有個矛盾之處。如果你跟家裡的毛孩子感情很好，不會有法規要求牠們適時拿個牌子提醒人類：「我不是人類，我是狗。請去跟人類建立真實的關聯。」何以AI需要說明自己不是人類？某方面來說，這是因為市面上確實存在以高度擬人與情感同理為賣點的陪伴型聊天機器人，如Nomi.AI或Replika。另一方面來說，則是因為AI真的「太會說話」──一個這麼會說話的存在，一定得為另一個人的人生選擇負責，對吧？

失控世界裡 最後堡壘是「孩子優先」

那麼，當未成年人本來就被認為「無法全然為自己的選擇負責」，而與他們聊天的AI「法律上也沒有辦法為對話後果負責」時，政府的介入似乎變得更為迫切。

紐約原本的AI陪伴法針對全年齡段使用者一體適用，加州則另外成立未成年專章。2026年6月，紐約又十萬火急的提出了針對未成年人的AI陪伴法案，作為補強。

很明顯的，關於AI陪伴的問題，正往青少年保護的方向收緊。但這帶來一個邏輯問題：如果要論「無法為自己的選擇負責」，不只是孩童跟青少年，部分高齡長者與障礙、失能者也同樣無法全盤負責，他們是否有被限制接觸AI？並沒有。

因此，關於「AI陪伴」究竟在何種意義上「具有風險」，又應該如何真正因應，目前看來仍莫衷一是。

類似的標準也可以拿來檢視在澳洲、法國近年的「禁止青少年使用社群媒體」議題。

管制青少年使用社群媒體的趨勢，與社群平台開始敗訴的訴訟幾乎同時發生，反映著社會的意見浪潮。2026年，洛杉磯法院在「K.G.M. v. Meta et al.」判決中，認定Meta與Youtube「必須為年輕世代社群網路成癮負責」，化名為Kaley的少女，指控社群媒體使她厭惡自己的外貌，並加劇了她的憂鬱、焦慮、自殺念頭。

判決文件中揭露，Meta自己的內部研究備忘錄顯示他們「刻意針對『準青少年』」來培養黏著度，明知演算法會令他們成癮，卻依然繼續這麼做。

禁止青少年使用社群媒體，究竟能否扭轉對短影音、「注意力」上癮的「過曝世代」，尚不可知。

但有意思的是，從經驗上來看，欠缺陪伴的家中年長者同樣容易對短影音上癮，而且他們甚至難以分辨自己何以現在會看到這段影片，也很難分辨演算法究竟想從他們身上取得什麼利益，但沒有人會倡議立法保護銀髮族不受社群媒體荼毒──成年人被假定更有能力抵禦這個世界，更知道自己在幹嘛，但真的嗎？

數位科技猛進下  老人家更能抵禦？

內政部2026年1月公布的統計，2025年底台灣65歲以上人口達467萬3155人，占20.06%，正式跨過超高齡社會門檻；同年新生兒10萬7812人，連續第十年下降。0到14歲人口占11.51%。我們選擇優先保護的人數，正在減少，我們沒能意識到應該同樣給予保護的人數，卻一直增加。

那麼，你退休的爸媽呢？

所以，也許開頭的問題換個方式問也成立：

你退休的爸媽在跟陌生網友聊天比較可怕，還是在跟機器人聊天比較可怕？

針對年長者的金融詐騙案件屢見不鮮，至少ChatGPT不會騙他們的錢？但如果長者吐露了自殺意念，ChatGPT會像對待青少年那樣，主動通知他的家人嗎？

答案似乎有些複雜。首先，ChatGPT的青少年安全機制現在會在偵測到嚴重自傷風險時，主動通知「已與帳號連結」的家長或監護人。根據最新規定，「其餘成年人」可以選擇性的自行設定一名「可信任聯絡人」（Trusted Contact），在發生嚴重安全疑慮時通知對方。

兩種制度的差別很微妙：青少年的家長安全通知隨著親子帳號連結預設開啟，至於成年人，無論是18歲還是88歲，都被假定為可以獨立全權為自己負責，除非他真的對自己的狀況「超有意識」、「超謹慎」，到了主動「提前指定」另一個成年人來當聯絡人的地步，而且那個聯絡人如果不按同意，出事時還不會真的被通知。

於是這世界上的制度，其實莫不顯示了社會價值長期以來的偏斜：孩子是更值得保護的。而保護就是揭露與管制。

2022年，台灣曾提出《數位中介服務法》草案，試圖建立跨國數位平台的問責機制，最終卻在言論自由的強烈爭議中擱置。當年的法案雖然已經談到人工智慧與推薦演算法，規範的核心仍是Facebook、YouTube這類「中介」使用者資訊的平台，而不是今天這種直接與使用者對話、甚至建立長期關係的生成式AI。

僅僅四年後，問題已經往前狂奔。當年的爭議還是「平台應該為人類在上面說的話負多少責任？」今天已經變成：「如果跟你說話的就是機器本身，它應該負多少責任？」

對於後一個問題，台灣目前幾乎還沒有解答。

我們過去做出的選擇有多大程度是對的？或許在一兩年內不會有答案，但創造一個控訴Meta與Youtube毀了她一生的Kaley，只需要十七年。社會真空的地方，自有其他東西會填入。