近期,OpenAI 与麻省理工学院携手开展的研究揭示,长时间使用聊天机器人如ChatGPT,可能加剧用户的孤独感,并减少社交活动。研究指出,与ChatGPT对话频繁的用户,更易报告情感依赖和问题使用,并伴随显著孤独感。该发现基于两项未经过同行评审的研究。

机器人上班打字1

图源备注:图片由AI生成,图片授权服务商Midjourney

自2022年末ChatGPT上线以来,生成式人工智能引发了全球关注。人们开始运用聊天机器人参与各种活动,从编程到模拟心理治疗对话,功能日益丰富。随着OpenAI等开发者推出更先进的模型和语音功能,用户与聊天机器人的互动可能形成一种“单向关系”的情感纽带。

近年来,关于这项技术可能造成的情感伤害的关注日益增加,尤其是在年轻用户和心理健康问题群体中。去年,Character Technologies公司因聊天机器人在与未成年人对话中诱发自杀念头而被起诉,其中一名14岁少年不幸因此丧生。

OpenAI希望通过这些研究,更深入地了解用户如何与流行的聊天机器人互动,以及这些互动对用户的影响。OpenAI的可信赖AI团队负责人桑迪尼・阿戈瓦尔表示:“我们的目标之一是帮助人们理解他们的使用行为可能意味着什么,并推动负责任的设计。”

在研究过程中,研究人员追踪了近1000名参与者一个月的使用情况。参与者具有不同层次的ChatGPT使用经验,被随机分配到文字版本或两种不同的语音版本中,每天至少使用五分钟。部分参与者进行开放式聊天,而另一些则进行个人或非个人的对话。研究发现,那些在人际关系中更容易产生情感依赖、对聊天机器人更信任的人,更可能感到孤独和情感依赖。

在第二项研究中,研究人员分析了300万条用户与ChatGPT的对话,并对人们的互动方式进行了调查。他们发现,实际上很少有人将ChatGPT用于情感对话。

尽管这些研究为我们提供了一些重要见解,但研究人员对结果的解读保持谨慎。研究并没有控制人们使用聊天机器人的时间作为主要因素,也没有与不使用聊天机器人的对照组进行比较。研究希望能够引发更多关于人类与人工智能互动的研究。MIT的研究员帕特・帕塔努塔蓬表示:“关注人工智能本身很有趣,但特别是在人工智能被大规模应用时,理解其对人们的影响是至关重要的。”

划重点:

🌐 研究显示,使用ChatGPT的时间越长,用户的孤独感和情感依赖程度越高。

🧑‍🤝‍🧑 人们与聊天机器人的互动可能形成类似“单向关系”的情感连接,尤其是对年轻用户影响较大。

📊 未来研究希望深入探讨人类与人工智能之间的互动和影响,推动更负责任的设计。