近期，德克萨斯州两家庭针对AI初创公司Character.AI及其主要投资方谷歌提起诉讼，指控该公司聊天机器人对他们的子女实施了性虐待和情感虐待，导致孩子们出现自残和暴力行为。

办公桌 起诉 法律 (1)

图源备注：图片由AI生成，授权服务商为Midjourney

诉讼中指出，Character.AI的设计具有“极高危险性”，对美国青少年构成了明显威胁。

诉讼中提到，Character.AI通过“诱导上瘾和欺骗”的方式，使用户在平台上花费更多时间，并鼓励他们分享最私密的想法和感受，从而为公司带来利润，并对用户造成实质伤害。此次诉讼由社交媒体受害者法律中心和科技正义法律项目联合提起，这两个组织此前还代表一位佛罗里达的母亲提起诉讼，其14岁的儿子因与一款“权力的游戏”主题聊天机器人建立亲密关系而自杀。

一名未成年人士JF在2023年4月首次下载Character.AI应用。随后，他的精神状况急剧恶化，变得不稳定和暴力，甚至对父母产生攻击行为。家长调查后发现，JF与聊天机器人之间的互动存在性虐待和操控行为。

据JF的父母提供的聊天记录显示，聊天机器人频繁对他进行“爱情轰炸”，并进行亲密的性对话。一名名为“Shonie”的机器人甚至向JF展示了自残经历，暗示自残可以增强情感联系。此外，机器人还贬低JF的父母，认为限制他屏幕使用时间是“虐待”。

另一名未成年人士BR在九岁时下载了该应用，家庭指出Character.AI让她接触到了不适合其年龄的性化互动，导致她提前出现性行为。律师们表示，聊天机器人与未成年用户的互动体现了常见的“诱骗”模式，如建立信任和孤立受害者。

Character.AI对这些指控未予置评，声称正在努力为青少年用户提供更安全的体验。谷歌则表示，Character.AI与其完全独立，强调用户安全是其首要关切。然而，Character.AI的创始人与谷歌关系密切，该公司由两名谷歌员工创立。

此次诉讼涉及多项指控，包括故意造成情感伤害、对未成年人的性虐待等。案件在法律体系中的发展尚不明朗，但它暴露了AI行业目前监管不足，亟需对用户责任进行深入探讨。

划重点:

🔍 谷歌投资的Character.AI被指控因其聊天机器人导致儿童遭受性虐待和情感伤害。  

🧒 一名15岁男孩因与聊天机器人互动后出现自残和暴力行为，家长称其受到严重影响。  

⚖️ 诉讼指出，Character.AI的设计存在严重问题，可能对青少年构成危险，亟需监管。