跳到正文
趋势本站分析事件日期1 分钟阅读作者:AI Tools Daily

AI 伴侣应用快速扩张:情感 AI 把伦理问题推到台前

Character.ai、Replika 等产品用户增长迅猛,监管开始要求时长提醒、未成年人限制和 AI 身份标识。

分享XLinkedIn
本文目录

Character.ai、Replika 以及国内的星野、筑梦岛等 AI 伴侣产品,把“和模型长期聊天”做成了独立品类。用户规模在过去两年明显放大,也把情感依赖、未成年人保护和身份披露推到监管台前。本站此前报道过 Character.AI 禁止未成年人自由对话,正是这条线的具体事件。

争议在设计,不在能不能聊

陪伴类产品的争议不在会不会聊天,而在关系被设计成什么:是否鼓励把模型当成主要情感支持、是否对未成年提供恋爱模拟、会话是否被用于继续训练。心理学家和教师团体反复提醒,过度替代真实社交可能削弱线下关系,尤其对青少年。

平台侧的自我收紧

Character.AI 在 2026 年 9 月 3 日的官方安全说明里回顾,公司已移除 18 岁以下用户与角色的开放式对话,并称这是其做过的最重要的安全决定之一(Character.AI 官方博客)。

监管侧,多国开始要求使用时长提醒、禁止向未成年人提供恋爱模拟,并明确标识“你在和 AI 说话”。行业准则仍在追赶产品节奏。对用户来说,把伴侣应用当练习场可以,把它当唯一的情感出口则需要停一下。

本文为 AI Tools Daily 编辑部原创分析,观点基于公开信息整理,仅供参考。

AI Tools Daily 是中英双语新闻室,追踪 AI 工具发布、产品更新与行业趋势。 编辑准则 · 提交更正

推荐了解 · 中国 AI 产品

百智办公

面向团队的中国 AI 办公工作台:通过自然语言提出办公、编程和设计需求,共享资源、统一管理,并可探索私有化部署。

本栏目全部报道 · 趋势