人工智能技术的飞速发展,使得创新与可持续发展的平衡成为一大挑战。近期,OpenAI 推出的最新AI模型o3,成为迄今为止功能最强大的模型。然而,除了其运行成本外,该模型对环境的影响也引发了广泛关注。

image.png

研究表明,o3每个任务大约消耗1,785千瓦时的电能,相当于一个美国家庭两个月用电量。Salesforce的AI可持续发展负责人Boris Gamazaychikov分析指出,这一消耗量约等于684千克的二氧化碳排放,与五箱满油汽油的排放量相当。

在ARC-AGI框架下进行的基准测试中,o3的高计算版本基于标准GPU的能耗和电网排放因子。Gamazaychikov表示,随着技术的扩展和整合,我们需要更加关注这些权衡。他还强调,这一计算未考虑隐含碳,仅关注GPU能耗,因此实际排放量可能被低估。

数据科学家Kasper Groes Albin Ludvigsen指出,一台配备8块Nvidia H100显卡的HGX服务器的能耗在11到12千瓦之间,远超每块显卡的0.7千瓦。

Pleias联合创始人Pierre-Carl Langlais对模型设计提出了担忧,尤其是如果模型设计不能快速缩减。“在解决复杂数学问题时,需要大量的草稿、中间测试和推理,”他表示。

今年早些时候,研究显示ChatGPT在一次对话中消耗了平均人类日常饮水的10%,几乎相当于半升水。虽然这个数字看似不多,但当数以百万计的人每天使用这个聊天机器人时,水资源消耗总量就相当可观。

Salesforce的人工智能技术首席架构师Kathy Baxter警告说,像OpenAI的o3模型这样的AI进步可能会出现杰文斯悖论。“虽然所需能量可能会减少,但用水量可能会增加,”她说。

面对AI数据中心的高能耗、复杂冷却需求和庞大物理基础设施等挑战,Synaptics和embedUR等公司正尝试通过边缘AI来解决问题,以减少对数据中心的依赖,降低延迟和能耗,使设备级别实时决策成为可能。

🌍 每个 o3任务的电能消耗相当于一个家庭两个月的用电量。

⛽ 每个任务排放的二氧化碳相当于五箱满油汽油的排放量。

💧 ChatGPT 的对话中消耗的水量达到平均人类日常饮水的10%。