价值190亿美元的AI初创公司Anthropic首席执行官Dario Amodei在旧金山AI大会上对人工智能发展中的风险问题提出了深刻的见解。他认为，虽然当前的AI模型并不构成即时威胁，但对一些同行过于轻视AI风险的观点进行了尖锐的批评。

在回应著名风险投资人Marc Andreessen的观点时，Amodei进行了独到的分析。Andreessen曾在三月份发推表示“限制AI等同于限制数学、软件和芯片”，并将AI简化为“数学”。对此，Amodei指出这一逻辑的根本缺陷。他说：“如果按照这种逻辑，人类大脑难道不也是数学吗？神经元的放电和计算同样是数学。按照这种理论，我们也不应该害怕希特勒，因为那也是数学。整个宇宙都可以被简化为数学。”

机器人 人工智能 AI (2)

图源备注：图片由AI生成，图片授权服务商Midjourney

作为前OpenAI副总裁，Amodei于2021年创立Anthropic，成为那些公开提醒AI潜在风险的科技领袖之一，并支持对AI行业实施适度监管。实际上，Anthropic曾支持过一项加州的AI监管法案，但该法案最终未能通过。

反观Andreessen，他投资了多家AI公司，包括OpenAI和Xai，并坚持认为AI技术应该不受限制地发展，甚至将呼吁AI安全的团体称为“邪教”，认为对AI的监管可能导致“新的极权主义”。

尽管Amodei承认目前的AI模型“智能不足，自主性不够”，不会对人类构成重大威胁，但他强调AI技术正快速进化。特别是随着能够自主执行任务的AI“代理”的出现，公众的AI能力及其潜在危害意识将显著增强。

他指出：“现在，许多人可能对聊天机器人的一些不可预测行为一笑置之，但对于未来的AI代理，我们必须建立更好的控制机制。”

这场争论不仅揭示了AI界在安全问题上的分歧，也强调了在AI快速发展的背景下，如何在创新与监管之间找到平衡点的重要性。在技术迅速发展的同时，理性地评估和预防潜在风险，将是确保AI健康发展的关键。