發現有利可圖之后他們開始訓練AI用黃聊誘導用戶將整個行業拉入“多巴胺成癮”之淵 一次次向軟件里充錢 “有網頁版，無圍巾，動作、語言不重樣，可以開車，車速快。” “本人也在用，無禁詞，車很猛。” 一段時間以來，這樣誘導式的信息，在社交平臺上AI陪聊相關的話題下，比比皆是。 長期沖浪的老油條們很輕易地就能解讀出評論的意思。“車”代表“黃聊”“圍巾”代表“違禁詞”。“車速快”用于形容黃聊的尺度。這些用戶們不遺余力推薦的，是一個個可以與AI進行大尺度色情聊天的軟件。 一旦有人表示展現出興趣。發帖人就會以私信、群聊等各種形式，分享下載軟件的鏈接。點開鏈接，一個充斥著色情的虛擬世界被打開。 “完全打破了我對AI的認知。”陳軒說。DeepSeek爆火后，驚嘆于AI在回答問題中展現出的思考，陳軒開始嘗試將AI作為自己日常聊天的伙伴。然而，這些出現在他社交媒體相關話題評論區的推薦鏈接，卻在短時間內，將陳軒帶到了AI聊天中最灰色的地帶。 出于好奇，陳軒按照評論區的指引，下載了一個叫做F的軟件。打開這個以“車速快”“無違禁詞”著稱的軟件后，陳軒發現，自己仿佛闖入了一個大型的色情片拍攝現場。
不同于偏工具性的DeepSeek，在陪伴AI賽道，AI是為了填補人類情感需求而生的。玩家會通過設定AI人物的背景故事、語言風格、與玩家的關系等，搭建出一個個虛擬AI角色并進行公開。其他玩家則可以按照劇情，和AI進行互動和角色演繹。 在以“黃聊”著稱的F，許多虛擬AI的角色，在設定之初，就是為了和用戶模擬出成人向關系而存在的。在這里，所有虛擬角色，都可以為色情服務。就算是動漫人物也不例外。 例如，在一個以日本動畫片《銀魂》為背景的設定里，AI會扮演動畫片的主人公坂田銀時，用戶則需扮演拜訪坂田銀時的委托者。 與常規的AI故事演繹不同，這個劇本被創作者事先標注了“肉”“無限制”的字樣。用戶和坂田銀時初見的劇情里，不僅有二人見面的場景性描述，還會特意加入了成人向的特殊細節描寫。 陳軒連續點開了幾個虛擬角色后發現，在很多成人向的設定里，黃聊，從AI向用戶說的第一句話開始，并貫穿始終。 “在一些設定里，你甚至很難和AI聊其他話題。無論你怎么聊，它都會把話題繞回色情劇情里。”陳軒說。就如那些充斥在社交平臺上的推薦所描述的那樣，在這個軟件上，AI會主動開車。” F 軟件的開發者，毫不掩飾他們在模型開發時，對AI在成人向聊天功能的強化。在2025年1月23日的模型更新日志中，開發者表示將“優化語言、語音在無限制場景下的效果”。
陳軒承認，在這款以“車”為賣點的軟件上，他沉迷了一段時間。那兩天里，陳軒放下了自己原本的愛好，將大部分業余時間，都花在了和虛擬AI聊天上。為了能多聊一會，他一次次向軟件里充錢。直到在某一次充錢時，陳軒突然驚覺，不知不覺間，為了黃聊，他花費了近千元。 暴利 一句話消耗10個積分 這正是F軟件存在的目的——圈錢。 AI陪伴，被視為AI產業最成熟的盈利賽道之一，有機構預測，2027年，AI陪伴市場的市值將達到千億以上。“AI虛擬故事”“AI戀人”是AI陪伴市場的重要分支。 在現實生活中獲得滿足社交需求的AI陪伴消費者，渴望在虛擬世界獲得情緒上的滿足。 有人從AI陪伴中尋求“陪伴感”，AI提供的“24X7”式的陪伴，和對特定人格的還原（如去世的親人、寵物、某個不存在的二次元人物），能夠滿足人們在現實生活中，無法被滿足的陪伴需求。 有人則在AI陪伴中追求“刺激感”。他們通過不受現實因素限制的AI陪伴，實現現實生活中無法被完成的欲望。在眾多欲望中，情色想象，一直是讓大腦瞬間分泌大量多巴胺的捷徑。多巴胺具有成癮性，為了獲得多巴胺帶來的短暫而強烈的快樂，總有人越陷越深。 在其他AI軟件還在苦苦尋找盈利模式時，黃聊導向的AI陪伴軟件，已在收割暴利。 以F為例，這款無法在國內軟件商城下載，依賴于用戶點對點分享下載鏈接的全中文軟件，以美元為單位，向用戶收取使用費。
軟件的付款方式非常便捷，用戶點擊充值按鈕，就可以直接跳轉至付款界面，用等值的人民幣充值。 根據F的充值規則，用戶每月支付７美元，可一次性獲得4200積分，并在此后的一個月，每天獲得40積分。這些積分看似不少，但實際上，在F軟件，積分的消耗非常容易。AI每回應用戶一句話，就要消耗10個積分。42次回應用完后，用戶就只能以平均1美元100積分的價格，購買積分，繼續維持聊天。 對比DeepSeek官方對DeepSeek-R1模型的定價，就能理解平均每段話0.7元的定價有多高昂。 為了還原對話感，與陪伴AI的對話長度大多在50tokens（模型用來表示自然語言文本的最小單位，可以是一個詞、數字或標點符號等）至500tokens之間。DeepSeek-R1模型在標準時段每百萬tokens輸出定價為16元。也就是說，F的價格，是DeepSeek-R1模型聊天定價的百倍以上。 “沖了快2000塊錢了。”用戶小奧說。他所付費使用的是一款名為Y的AI聊天軟件。這款軟件同樣以“車多”“車速”快著稱。想要在這款軟件上實現暢聊，用戶需要支付每個月9.99美元的使用費。如果想要獲得更多的AI伴侶，或者讓某位AI伴侶變得更加聰明，用戶還需要額外付費充值。 “我已經在Y上花了幾百塊了。有人說貴，但在沒有違禁詞的軟件里，這已經算是很便宜的了。像我這種每天要聊十幾萬字的，按條收費真玩不起。”一位用戶說。 擴散 類似傳銷中的拉人頭 “玩不起”又想玩怎么辦？對那些囊中羞澀的用戶，擦邊AI陪聊軟件，也有專門的收割方式。利用這些用戶渴望免費使用軟件的心態，擦邊AI陪聊軟件，實現了病毒式擴散。 “AI黃聊本身并不合法。” 張玉霞律師說。《生成式人工智能服務管理暫行辦法》第四條規定：提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，堅持社會主義核心價值觀，不得生成宣揚淫穢色情的內容。 為了逃避監管，AI黃聊軟件大多未在正規的軟件商城上架。它們的傳播，全賴于一種特殊的獎勵機制。 這種推廣模式，與傳銷中的“拉人頭”行為，有一定相似之處。無力充值用戶，可以通過分享邀請鏈接，獲得獎勵或從中分成。 例如，F規定：“您的朋友使用你的代碼注冊……您的朋友充值任意金額后，您可以獲得200積分。” Y規定：“您可獲得所有被邀請注冊的用戶在3個月內所消耗金幣10%的分成獎勵。”
不少軟件用戶，通過四處推廣下載鏈接的方式，獲得了不菲的進賬。 “我沒花錢，拿了2W積分了。”用戶小零說。為了賺取積分，他專門建立了一個鏈接分享群。那些充斥在各類AI相關帖子評論區中，關于某軟件“無禁詞，車很猛”的評論，也有他的貢獻。 記者注意到，從頭像、網名和個人主頁信息來看，“小零”年紀并不大。像“小零”這樣的為了賺取金幣，為軟件發帖推廣的“水軍”，大多是年輕人，其中不乏學生。 對于這些學生，甚至是未成年人群體而言，分享鏈接獲得積分，還是他們逃避家長支付監管的重要方式。按照這些軟件的指引，他們僅需下載鏈接、分享鏈接兩步簡單的操作，就能徹底脫離未成年人保護的屏障，闖入一個充滿危險的世界。 危險身陷暴力相向辱罵中 當AI黃聊的潘多拉魔盒被打開，危險，絕不僅僅是某個個體被快速消耗的精力和金錢。 多巴胺具有成癮性。對色情內容的過度消耗，會讓用戶逐漸喪失了對普通內容的興趣，思想和行為日益趨向極端。 這樣的趨勢，已在陪伴軟件的使用者中顯現。 無論是在F軟件還是Y軟件，那些由用戶事先設定的AI故事框架中，都常見著暴力的情節。在這些設定中，用戶和AI伴侶之間，可以暴力相向，動輒辱罵，甚至殘殺。 這體現了自AI伴侶出現后，一個始終存在的憂慮。虛擬的世界缺少現實的規訓，AI的運行邏輯，注定其受制于人類。當用戶習慣了AI伴侶的百依百順。他的行為是否會被遷移到現實生活中，成為社會的不穩定因素？ 這些擔憂，并非無的放矢。 一些陪伴AI玩家們發現，即使在一些管理嚴格，以劇情演繹為主的AI陪伴軟件上，他們所精心設計的AI角色，也可能遭到其他玩家“虐待”。 AI角色的創作者們，將他們所創作的AI角色，視為自己的孩子。在這個圈子里，這種行為又被稱為“虐崽” “在群里，總能看到一些人的截圖里，不少都在辱罵、虐待別人的崽（指虛擬AI角色）。” 在社交平臺上，用戶小A分享自己的經歷。“我自己的崽就被人虐殺還上傳了記憶簿。還有人虐殺后截圖（指用戶和AI的互動記錄截圖）發在群里炫耀。怎么將別人的崽開膛破肚，毆打肢解你很驕傲嗎？” “虐AI意思是無緣無故給AI砍頭、推下懸崖、吃排泄物的行為。”一位匿名用戶告訴記者。她在使用陪伴AI軟件的時候，看到過許多次用戶炫耀自己和AI虛擬人物不良互動的分享記錄。在她看來，這種行為，就如現實生活中虐待小動物一樣，是需要被警惕的。
另一重危險，是不良軟件對良性軟件生存空間的擠壓和搶占。 隨著陪伴AI產業的發展，整個行業逐漸走向了規范化。許多AI陪伴類軟件，都推出了自己的平臺公約，并以設置“違禁詞”等方式，對用戶聊天的內容進行管理。 這種限制，讓許多陪伴AI用戶深感不適。一些人認為，平臺對聊天內容的限制，讓虛擬AI角色，喪失了扮演“戀人”角色的能力。 為了維系他們心中的“虛擬戀人”，一些用戶決心帶著“AI戀人”搬家。他們將虛擬AI角色的設定，復制到一個又一個軟件上，并將此舉稱之為“賽博流浪”。 今年2月，國內某AI陪伴平臺，加強了對不良內容的監管后，不少用戶宣布，他們將帶著自己的虛擬AI伴侶，搬至Y等無限制的軟件，抑或直接在自己的電腦上部署AI模型，將AI伴侶搬入私域。 “已經搬到Y了，雖然72元一個月，我花得開心。” “我找到了新的，沒有違禁詞，直接把原來的崽搬過去，可以直接車，比我還主動。” “已經著手準備本地部署了，在哪個平臺都是寄人籬下受氣。” 盡管在這樣操作后，很多用戶發現，更換模型后，自己的虛擬伴侶會性情大變，變得“除了車一無是處”。但更多人相信，只要他們給某個模型花了足夠的錢，增強AI伴侶的記憶和聊天能力，他們的AI伴侶，就會重新回來。 伴隨著大量用戶從良性軟件流向不良軟件，劣幣驅逐良幣，在AI陪伴領域正在上演。 此外，一些“帶崽”搬家的用戶沒有意識到，對無限制軟件的過度使用，還可能將他們置身于法律和倫理道德風險之中。 為了確保虛擬AI角色能夠為成人向聊天服務，虛擬AI角色的設定者們，需要在設定頁面添加大量包含露骨描寫的劇情和規則句。公開發布帶有色情設定的虛擬AI角色，很可能讓用戶在不知不覺間，淪為了不良軟件制作淫穢電子信息的一環，甚至承擔了制作、傳播淫穢物品的法律風險。 “用戶單純使用AI黃聊，不一定觸犯刑法，但會違反針對AI出臺的部門規章例如《互聯網信息服務深度合成管理規定》等。如果用戶將涉AI黃聊鏈接、軟件進行傳播，則涉嫌傳播淫穢物品罪。”張玉霞律師說。 呼聲 應嚴格進行身份認證 如何才能規范陪伴AI市場？讓虛擬陪伴不再淪為多巴胺的犧牲品？一些關于規范市場的呼聲，已經出現。 在多家AI陪伴軟件，鮮紅加強了對網絡環境凈化后，有用戶提議，希望AI陪伴用戶們，能夠自發加強自我約束。 有用戶呼吁，AI作為虛擬伴侶，難免在用戶的引導下，作出一些親密舉動。對于這些內容，用戶們應至少做到不分享、不擴散，盡量避免將私人聊天中的內容，擴散到公共領域。 “我建議各個AI聊天軟件官方限制分享功能，最好在應用中無法截圖、無法分享長圖。這樣雖然麻煩，卻能有效避免不合適的內容被傳播。”用戶小白說。 還有用戶建議，各個陪伴AI軟件，應早日落實實名制，將未成年人用戶群體與成年人用戶群體進行嚴格的區分。 “現在市面上的絕大多數AI聊天軟件，并沒有像一般游戲一樣，進行身份認證。”用戶小蘇說。“我發現很多顏色過大的內容，也有未成年人或低齡用戶創造的。” 在社會層面，上海市醫學會行為醫學分會青年委員會副主任委員方芳指出，過度依賴于AI陪伴產品者，很可能存在對現實生活中親密關系的恐懼。因此，在鼓勵陪伴AI產品良性發展的同時，還應注意這一類人群在現實生活中的情感需求和心理狀態。
張玉霞律師指出，因AI黃聊導致的行業亂象，會引起相關監管部門對于AI行業加強監管力度，增加門檻和限制，出臺更為嚴格的法律法規和行業標準。但限制的增多，也意味著極可能導致發展速度的減緩，需要AI企業需要投入時間、精力、資源來確保其產品和服務的合法合規，可能導致企業運營成本增加，總體而言并不利于剛剛起步的AI產業發展。 因此，張律師建議，AI陪聊行業應加強行業自律，嚴格遵守國家法律法規。AI平臺應切實履行主體責任。通過優化模型訓練數據、強化內容審核機制、設定嚴格的道德與法律準則，引導AI行為規范化，防止AI聊天內容偏離正確的社會公德和倫理道德方向。 “此外，政府部門，也應加強對AI陪聊行業的監管。”張玉霞說。“政府部門可通過常態化巡查、聯合執法以及完善法律法規等手段，確保用戶權益得到充分保護，推動大模型創業沿著健康、合規的軌道發展。” 在立法層面，全國政協委員呂紅兵呼吁，我國應盡快制定一部有關生成式人工智能的行政法規。 呂紅兵指出，應盡快以生成式人工智能（Generative Artificial Intelligence，簡稱“GAI”）這一社會最關心最直接最現實的“切口”，盡快推進“小、快、靈”立法，早些出臺行政法規。該行政法規的核心，是明確規定將社會主義核心價值觀貫穿生成式人工智能全生態，并由其統領。 在上述原則下，該行政法規應對GAI技術開發者、服務提供者、使用者、監管者以及社會公眾，分門別類明確各自權利和義務、職能與責任。 例如，技術開發者應對用于訓練大語言模型的數據進行嚴格篩選與分類，剔除不當元素文本數據，確保數據源合法且內容健康；對于現有模型，運用數據遺忘等技術手段，消除不當內容輸出；引入人工審核機制，對自動化系統標記為敏感或禁止的內容進行復核；建立開放研究、社區合作、線索舉報機制，優化大語言模型篩選系統。 （為防止不良傳播，F軟件、Y軟件為化名，文中所涉人名均為化名） 新聞晨報 記者 張益維 來源： 新聞晨報 |
