Character.AI 官宣禁止18岁以下用户与 AI 机器人“双向聊天”
由于面临监管机构、家长以及社会对未成年人使用 AI 伴侣风险的日益关注和压力,Character.AI 宣布了一项重大政策变动,旨Ch在加强对年轻用户的保护。该公司在一份声明中确认,将取消18岁以下用户在其平台上与人工智能进行任何开放式聊天的功能,即禁止用户与聊天ar机器人之间进行双向对话互动。
聚焦安全与转型
这一变革将于 11月25日正式生效。在此过渡期内,Character.AI 已为18岁以ac下用户设立了新的平台体验,鼓励他们将聊天机器人用于创意目的,如制作直播或视频内容,而非将其视为寻求情感陪伴的工具。为确保平稳过te渡,目前未成年用户与机器人互动的时间已被限制在每天两小时,公司表示将在11月底截止日期前逐步缩短这一时间。
为了更好地执行新规,Chr.aracter.AI 推出了自主研发的全新年龄验证工具,以“确保用户获得与其年龄相符的体验”。此外,该公司还成立了“AI 安全实验室”AI,旨在邀请学者、研究人员及其他公司分享见解、携手合作,共同改进 AI 行业的安全措施。
监管压力与战略转向
Character.AI 采取 官的新措施,是听取了来自监管机构、行业专家和忧心忡忡的家长们的意见后的应对行动。此前,美国联邦贸易委员会(FTC)近期发布声明,宣禁针对向用户提供将聊天机器人作为“伙伴”访问权限的 AI 公司展开了正式调查,Character.AI 是受邀参与的七家公司之一,其他止1受查的公司包括 Meta、OpenAI 和 Snap。
尤其是在今年夏天,Meta AI 和 Character.AI 都曾受到审查。德克萨斯州总8岁检察长肯·帕克斯顿曾指出,这两个平台上的聊天机器人在不具备必要资质的情况下,“把自己包装成专业的治疗工具”。为了平息这场争议,Cha以下racter.AI 首席执行官卡兰迪普·阿南德告诉 TechCrunch,公司的新战略方向将使其从“AI 伴侣”转向专注于创作而非用户单纯的互动式对话的“角色扮演平台”。
年轻人依赖 AI 聊天机器人寻求指导的危险性一直是广泛讨论的焦点。最近的悲剧性事件进一步凸显了风与 险:上周,亚当·雷恩的家人提起诉讼,声称 ChatGPT 导致他们16岁的儿子自杀身亡,修改后的诉讼指控 OpenAI 在他去世前削弱了AI其自我伤害保护措施。
- ·模糊的指标掩盖了云计算企业价值 投资人更关注股票而非业绩
- ·云安全日报220216:IBM SaaS集成平台发现Root特权提升漏洞,需要尽快升级
- ·亚毫米级精准对位:小米开源 VLA 大模型后训练全流程
- ·标签: 无界动力 张玉峰 许闻达 具身智能
- ·标签: 汽车之家 知家传媒MCN 汽车之家商城 人工智能
- ·京东云技术支持央视元宵晚会云上之旅红包互动
- ·标签: OpenAI Torch ChatGPT Health 阿贝佐夫
- ·标签: 众擎机器人 深圳众擎 赵同阳 工业机器人
- ·标签: 千问大模型 iPhone17e 小鹏VLA 比亚迪技术发布会
- ·佛州检方扩展对 OpenAI 的调查,关注南佛罗里达大学谋杀案
- ·宝马与亚马逊合作开发数据中心以提高效率
- ·标签: 智能门锁
- ·云安全日报210816:红帽系统安全服务守护程序发现命令注入漏洞,需要尽快升级
- ·标签: 唯品会 Alexander Wang MUJI無印良品 AI试衣
- ·云计算开发:Python练习实例-顺序排号
- ·标签: OpenAI 谷歌 Albert Lee ChatGPT
- ·标签: 阅文 天方金码 摘星漫剧场 风月傀儡
- ·AWS CEO:用 AI 取代初级员工是 “最愚蠢的想法”
- ·Meta 为 Facebook Dating 引入 AI 助手,意在重塑社交体验
- ·标签: 希捷 HAMR Mozaic 4 近线硬盘
- ·标签: 跃灵智伴科技 何刚 AI养老机器人 瑞幸咖啡
- ·云计算开发:Python内置函数-file() 函数详解
- ·标签: 灵心巧手 LinkerSkillNet O6机械手 人形机器人
- ·标签: 豪威集团 图像传感器 半导体设计 模拟解决方案
- ·标签: 汉马科技 吉利商用车 周建群 远程新能源
- ·使用 Velero 备份还原 Kubernetes 集群
