xiand.ai
人工智能

Anthropic CEO Amodei发布长文:AI风险警告之外,更应关注其治理与对齐方案

Anthropic首席执行官Dario Amodei近日发布一篇长文,警告人工智能可能对人类社会构成严峻考验,但分析指出,文章中提出的具体补救措施和治理框架,比单纯的风险预警更具行业价值。Amodei强调了AI安全与模型可控性的重要性,并将其与Anthropic的商业定位紧密结合。

La Era

Anthropic CEO Amodei Details AI Risk Remedies Alongside Stark Warnings
Anthropic CEO Amodei Details AI Risk Remedies Alongside Stark Warnings
Publicidad
Publicidad

Anthropic首席执行官Dario Amodei于周一发布了一篇名为《技术的青春期》的约两万字长文,文中警告称人工智能即将“考验我们作为一个物种的本质”,并对人类驾驭其力量的成熟度表示深切疑虑。该文章在Amodei的个人博客上发表后,在社交媒体上引发了广泛关注,但其核心关切并非新鲜事。

Amodei长期以来一直对AI的灾难性风险保持警惕,包括AI协助开发生物或化学武器、模型失控的风险,以及大规模失业和财富过度集中的问题。最新的论述重申了这些担忧,但语气更为严峻,并缩短了风险可能出现的时间表。根据Fortune的报道,Anthropic在AI安全方面的专注已成为其商业优势,因为其安全措施也提升了模型的可靠性和可控性。

因此,Amodei的文章在某种程度上兼具了紧迫的预言性质及其公司在市场上的品牌定位。值得注意的是,Amodei在文中多次提及Anthropic为其AI模型Claude开发的“宪法”作为缓解多种风险的关键因素。这一宪法机制是Anthropic区别于OpenAI、Google等竞争对手的重要技术特征。

比风险论述更具新闻价值的是Amodei提出的具体补救措施。他呼吁富裕个体应对AI带来的潜在经济影响,指出Anthropic的联合创始人和员工已承诺捐赠其财富或股份的很大一部分用于慈善事业。Amodei批评了硅谷部分人士对慈善事业的犬儒态度,强调了富裕阶层承担社会责任的必要性。

在企业层面,Amodei建议AI公司应引导企业客户将AI部署重点放在创造新的业务线和收入增长上,而非仅仅通过裁员实现“成本节约”。他指出,企业有义务创造性地重新安置受AI冲击的员工,甚至探讨在长期高生产力世界中,为不再提供传统经济价值的员工提供薪酬的可行性。

此外,Amodei呼吁政府干预以实现财富再分配,最直接的方式是通过累进税制,或许可以专门针对AI公司未来可能获得的超额利润。他向反对此类税收的富裕群体提出务实警告:若不接受“好的版本”,他们终将面对由大众设计的“糟糕的版本”。

虽然关于AI可能在一到五年内淘汰50%入门级白领工作的预测获得了大量关注,但Amodei也提出了更明确的时间表,即具备人类同等能力的AI将在未来两年内出现。他预测,尽管通用AI能力会快速出现,但其社会渗透和影响会有一个滞后期,这解释了为何五年内仅预测淘汰一半入门级岗位。

虽然Amodei的预测并非总是完全精准,例如他去年曾预测AI将在六到九个月内编写90%的软件代码,但其在AI能力发展上的判断仍值得业界高度关注。作者William Gibson的名言“未来已经到来,只是尚未均匀分布”可用于理解当前AI影响的不均衡性。

Publicidad
Publicidad

评论

评论存储在您的浏览器本地。

Publicidad
Publicidad