根据哥伦比亚大学Tow数字新闻中心发布的最新研究成果，人工智能搜索服务面临严峻挑战。研究发现，ChatGPT在引用新闻资源时存在严重的准确性问题，即便是与OpenAI直接合作的出版商也受到了影响。
研究小组对20家不同出版商提供的200条新闻引用进行了详尽检测，结果令人瞩目：在这些案例中，ChatGPT出现了高达153次的错误或部分错误的来源信息。更令人不安的是，该系统很少主动承认信息不足，仅在七次尝试中表明无法找到来源。
研究人员指出，为了保持用户的使用体验，ChatGPT倾向于编造答案，而不是坦白信息不足。更为严重的是，系统在展示这些错误来源时显得过分自信，完全没有显示出任何不确定性。
即便是与OpenAI有直接合作关系的知名出版商，如《纽约邮报》和《大西洋月刊》，也未能避免这一问题。在某些情况下，ChatGPT甚至将用户引导至非法复制整篇文章的网站，而非官方原始来源。
《麻省理工技术评论》的主编马特·霍南对此表示：“作为出版商，我们绝不希望看到这种情况，但目前可采取的补救措施非常有限。”
针对这些令人担忧的发现，OpenAI的回应较为谨慎。公司指出ChatGPT每周为2.5亿用户提供服务，并表示正在与合作伙伴共同努力提高引用的准确性。
研究结论明确指出：目前，出版商无法确保ChatGPT Search能够准确展示其内容，无论是否与OpenAI建立了合作关系。这一发现无疑将促进对人工智能信息可靠性问题的深入探讨和改进。
暂无评论