在数字化浪潮席卷的今天，儿童网络安全问题日益受到关注。近期，Roblox、Discord、OpenAI 与谷歌携手成立了ROOST（强大开放在线安全工具）非营利组织，致力于为AI时代构建一个可扩展、互联互通的安全基础设施。该组织的宗旨是为公共和私人机构提供开源安全工具，强化自身平台的安全防护，尤其是保障儿童网络安全。
图源备注：图片由AI生成，图片授权服务商Midjourney
ROOST的成立是对生成式AI迅猛发展的积极回应。随着网络环境的演变，儿童面临的风险日益加剧，对“可靠且易于获取的安全基础设施”的需求愈发迫切。ROOST希望通过提供现成的安全工具，让小型公司或组织无需从头开始开发，即可直接利用这些免费解决方案。
ROOST计划重点提供检测、审核和报告儿童性虐待材料（CSAM）的工具。这将助力各类平台识别和处理不当内容，确保儿童在网络环境中的安全。参与的公司不仅提供资金支持，还贡献技术力量。
儿童在线安全问题持续受到关注，尤其是在《儿童与青少年在线隐私保护法案》和《儿童在线安全法案》在国会审议期间。尽管这些法案未能通过众议院投票，但参与的科技公司，包括谷歌和OpenAI，已承诺停止使用AI技术生成儿童性虐待材料。
对于Roblox而言，儿童安全问题至关重要。据2020年数据，美国九至十二岁的儿童中有三分之二在使用Roblox。该平台在儿童安全方面曾面临诸多挑战，包括2024年《彭博商业周刊》报道的“恋童癖问题”，迫使Roblox加强对儿童私信的限制和实施新政策。
ROOST的推出虽不能解决所有问题，但为Roblox及其他类似平台提供了更便捷的应对方案，为保障儿童在AI时代的安全贡献力量。
划重点：
🌐 ROOST是由Roblox、OpenAI和谷歌等公司联合推出的非营利组织，旨在为儿童提供在线安全保护。
🔍 该组织将提供开源安全工具，帮助平台检测和报告儿童性虐待材料（CSAM）。
🛡️ Roblox等平台面临儿童安全挑战，ROOST的成立为其提供了更有效的解决方案。
暂无评论