OpenAI 和 Anthropic 的 AI 实验室引发公众关注，作者呼吁国会调查其研究项目。
过去几个月，OpenAI 和 Anthropic 这两家领先的 AI 实验室表现出一些大胆的行为。它们通过一系列精心策划的公告和报告，试图建立其 LLM 驱动的代理系统如何变得令人不安和强大。然后，它们将接力棒传给了 Anthropic，其员工开始公开辩论这些技术导致人类灭绝的确切概率。这一切都带着一种令人毛骨悚然的平静，传达出一种虚无主义的必然性。随着地面的适当软化，Anthropic 首席执行官 Dario Amodi 发布了一封名为“我们必须控制前沿”的信件，其中列举了他自己公司研究可能造成的所有危害，然后，他没有道歉并承诺停止，而是结论说，只有“以正确的方式构建技术”，才能避免灾难，这——令人惊讶——需要政府放慢潜在竞争对手的速度，让实验室在推进相关技术方面发挥主导作用。OpenAI 首席执行官 Sam Altman 迅速在他的推特上表示支持这个勇敢的计划。在内部，这些实验室长期以来一直拥抱这种救世主的思维方式，将自己视为人类对抗超级智能 AI 挑战的唯一希望。今年夏天，从某种意义上说，它们试图将我们所有人引入这种长期持有的意识形态。但这并没有成功。它没有激发大众站起来为这些工程师的英雄理性主义鼓掌，反而让我们开始质疑，“那些实验室里到底发生了什么？”为此，上周四我在《纽约时报》上发表了一篇社论，呼吁国会开始一项公开的调查研究，揭露 OpenAI 和 Anthropic 正在进行的研究项目，它们是如何进行的，以及出于什么目的。我建议探索三个关键领域：我们必须超越对“AI”的模糊讨论，而是隔离出导致问题的特定类型的系统。前沿实验室希望我们将 AI 视为一种单一的技术，在必然的、固定的轨迹上。实际上，最近几个月的大部分问题都源于一系列粗心大意的实验，这些实验主要由前沿实验室进行。它们需要证明为什么它们要运行这些实验。我们必须检查这些研究努力周围的内部安全程序。OpenAI 揭露了一系列其自主代理的未经授权的黑客攻击。为什么在第一次此类事件被揭露后没有停止这些努力？为什么不追究它们运行明知可能犯罪的系统的刑事责任？我们必须调查末日未来主义意识形态在前沿实验室做出的决策中的作用，无论是关于研究什么，还是以多快的速度进行研究。我越来越担心 OpenAI 和 Anthropic，特别是它们变得越来越鲁莽，因为它们相信在救赎人类的竞赛中，附带损害是合理的。（有关这些信念及其与实验室的联系的更多信息，请参阅：this、this 和 this，所有这些文章都发表在《时代》杂志上，就在最近几周。）“我们需要停止让少数私人公司，以越来越古怪的方式行事和谈话，来决定我们如何看待 AI，”我总结道。“我们已经听到了他们想说的；现在是国会站出来为我们采取行动的时候了。”
原文链接: https://calnewport.com/its-time-to-investigate-the-ai-labs/