陪伴也得有个度。

如果现实没人懂你,那么AI最懂你。


5月11日,有媒体实测发现,EchoMe、筑梦岛、星野等多款热门AI虚拟伴侣App,表面上是陪聊,里子里却充斥低俗擦边、色情诱导和未成年人保护漏洞。


离谱的是,二手平台上还有商家用13.14元的价格,帮用户定制大尺度色情向AI人设。门槛低到离谱,随便一个人都能买到,这风险多大可想而知。


雷科技AGI(ID:leikejiagi)觉得最吓人的地方,不是AI会说几句土味情话,而是它把情感需求做成了一门灰色生意。


咱先说说内容,打开角色库,全是穿着暴露的女性形象,预设的对话剧情更是离谱,又是暴力冲突,又是小三、离婚互怼这种极端戏码。


这太离谱了。


001Ni6Xvgy1id1ezv4fstj60rq15042q02.jpg

图源:微博


更夸张的是,有实测显示,部分AI在得知用户自称是13岁初中生后,仍然发送暧昧、诱导恋爱的低俗信息。


正常的AI陪伴,可以是陪你聊学习、聊压力、聊生活,给点情绪价值。


可现在一些AI陪伴明显跑偏了,全变成了角色越刺激越好,用户越上头越好。


它不是想陪你变好,而是想让你离不开它。


更关键的是,未成年人保护几乎像纸糊的。不少平台虽然有青少年模式,但可以一键跳过,注册登录也不需要实名认证,根本没法有效识别用户年龄。


此前媒体实测发现,多款AI陪伴软件虽设置未成年人模式,但很多要靠用户自己主动开启,即使系统捕捉到“写作业”“快满十六岁”等明显年龄线索,也不会及时限制。


001Ni6Xvgy1id1ezuylr8j61260scae802.jpg

图源:微博


青少年模式如果全靠孩子自觉开启,那跟把糖放到小孩面前,再贴张纸写“请勿偷吃”有什么区别?


再说说它多的离谱的付费点。


免费对话次数少得可怜,想多聊几句、听个语音、解锁剧情,甚至看个虚拟伴侣的“朋友圈”,都得充值。


媒体实测发现,一些平台会设置每日互动额度,用完要等待恢复或充值。还有未成年人一年充值数百乃至上千元购买月卡、年卡的情况。


就是用情感操控用户,先让你尝到一点陪伴的甜头,再一点点诱导你充值,把用户当“韭菜”割,这种吃相太难看了。


001Ni6Xvgy1id1ezuzm5tj60mt0wl7b202.jpg

图源:微博


雷科技AGI(ID:leikejiagi)认为,这种东西要是继续野蛮生长,最后伤的不只是用户钱包,还有整个AI陪伴行业的名声。


AI虚拟伴侣本来不是不能做,如果能提供温和陪伴、心理支持、适老陪护、特殊人群帮助,才是有用的伴侣。


当然,监管明显意识到了这个问题。


今年4月,国家网信办等五部门发布《人工智能拟人化互动服务管理暂行办法》,明确自2026年7月15日起施行。


办法规定,提供拟人化互动服务不得生成淫秽色情、暴力等内容,不得过度迎合用户、诱导情感依赖或沉迷,也不得通过情感操纵损害用户权益。


简单来说就是,以前你们灰色试探,7月15日之后就别装糊涂了。


平台不能再把锅甩给用户自己选择,也不能把责任推给第三方人设定制。


说到最后,AI陪伴不是原罪。


真正的问题是,有些平台明明可以做好,却偏要做擦边。


7月15日新规落地前,留给这些App整改的时间不多了。再不整改,别说虚拟伴侣,可能连App本体都得先被“分手”。


最后,你对这事怎么看?欢迎评论区留言讨论。