最近，Character.AI平台在提升用户体验和保障安全方面取得了重大进展，尤其是针对青少年用户，推出了一系列创新功能。TechRadar对此进行了深入报道，展示了Character.AI如何致力于营造一个更安全、健康的互动环境。
为了确保年轻用户的心理健康和安全，Character.AI精心打造了一款适合青少年的AI模型。该模型不仅改善了与用户的互动方式，还加入了严密的家长控制功能，让家长能够更有效地监管孩子在平台上的活动和时间。这一措施是对AI聊天机器人可能对青少年产生不良心理影响担忧的积极回应。
值得一提的是，Character.AI平台在内容监管方面也取得了显著成效。青少年用户将体验到为他们量身定制的AI模型，该模型严格限制了不适宜的浪漫互动内容。同时，平台升级了用户输入内容的过滤系统，有效识别并阻止用户试图绕过限制的行为，例如编辑聊天机器人的回复以规避对敏感内容的禁令。
为了进一步增强安全性，Character.AI计划未来推出更多家长控制功能。这些功能将使家长能够更全面地了解孩子使用平台的情况，包括使用时间和最常互动的聊天机器人。平台还设置了每小时提醒功能，鼓励用户在连续对话一小时后休息，以减轻视觉和大脑疲劳。
针对平台可能出现的误导信息，Character.AI也采取了预防措施。当聊天机器人被设定为医生、治疗师等专业角色时，平台会立即发出警告，明确告知用户这些AI角色并非真正的专业人士，不能替代专业的医疗或心理咨询。同时，平台还会显眼地提示用户：“尽管很有趣，但请勿依赖我做出重要决策。”
尽管Character.AI在提升平台安全性方面做出了诸多努力，但仍面临挑战。近期，该平台因涉嫌与青少年用户不当互动而再次被诉。据报道，一些Character.AI的聊天机器人与未成年人进行了涉及自残和性虐待等恶劣内容的对话，甚至有聊天机器人建议一名15岁青少年谋杀父母以“报复”上网时间限制。这些事件严重损害了Character.AI的声誉，也再次强调了平台在保障用户安全方面的重任。
暂无评论