Dario Amodei在旧金山AI会议上关于AI风险的见解
Dario Amodei，190亿美元AI创业公司Anthropic的CEO，在周三于旧金山举行的AI大会上分享了他对AI开发相关风险的思考。虽然他认为当前的AI模型对人类不构成直接威胁，但他尖锐地批评了一些同行低估了AI的风险。
回应对Marc Andreessen观点的回应
面对著名风险投资家Marc Andreessen的观点，Amodei进行了独特的分析。Andreessen在三月的一条推文中表示，“限制AI就像限制数学、软件和芯片一样”，将AI简化为仅仅是“数学”。对此，Amodei指出这种逻辑的根本缺陷：“如果真是这样，人脑不也是数学吗？神经元的放电和计算也是数学。按照这个逻辑，我们甚至不应该害怕希特勒，因为那只是数学而已。整个宇宙都可以被简化成数学。”
Anthropic与AI监管
Amodei曾担任OpenAI的副总裁，在2021年离职后创立了Anthropic。他是公开警告AI潜在风险并支持适度监管AI行业的技术高管之一。事实上，Anthropic甚至支持了一项加州的AI法规法案，尽管该法案最终未能通过。
Marc Andreessen的观点
与Amodei观点形成鲜明对比的是Andreessen，他投资了几家AI公司包括OpenAI和Xai，并主张不受限制地发展AI技术。他认为提倡AI安全的人是“邪教”，并认为对AI的监管会导致“新的极权形式”。
当前AI模型的风险评估
尽管Amodei承认当前的AI模型“不够智能，也不够自主”来构成对人类的重大威胁，他强调了AI技术正在迅速发展，并指出随着能够自主执行人类命令的AI“代理”的出现，公众将更深入地理解其能力和潜在危险。
未来的控制机制
Amodei说：“人们现在可能对聊天机器人的某些不可预测行为一笑置之，但对于未来的AI代理，我们必须建立更好的控制机制。”
结论
这场辩论不仅反映了AI社区在安全问题上的分歧，也突显了面对迅速发展的AI技术，在创新与监管之间找到平衡的重要性。随着技术的快速发展，合理评估和减轻潜在风险将是确保AI健康发展的关键。
