马斯克等千名科技界专家联合签署了一份“暂停巨型人工智能实验”的公开信

据公众号“Web3 大航海”报道，Tesla 首席执行官 Elon Musk、苹果联合创始人 Steve Wozniak、蒙特利尔学习算法研究所所长 Yoshua Bengio 等千名科技界专家近日联合签署了一份“暂停巨型人工智能实验”的公开信。

公开信指出，人工智能系统具有与人类竞争的智能，这可能对社会和人类造成深远的风险。根据阿西洛马人工智能原则指出，先进的 AI 可能代表着地球生命历史上的深刻变革，应该以相应的关注和资源来计划和管理。但随着最近几个月 AI 实验室陷入一场无法控制的竞赛，试图开发和部署越来越强大的数字智能，这种规划和管理并未实现，甚至连它们的创造者也无法理解、预测或可靠地控制这些智能。

公开信还表示，现代 AI 系统正逐渐在通用任务上实现与人类竞争的水平，只有当人类确信 AI 系统的影响是积极的，风险是可控的时候，才应该开发强大的 AI 系统。因此，他们呼吁所有 AI 实验室立即暂停至少 6 个月的时间，停止训练比 GPT-4 更强大的 AI 系统。这个暂停应该是公开和可验证的，并包括所有关键参与者。如果这样的暂停无法迅速实施，政府应该介入并实行一个暂停令。

此外，AI 实验室和独立专家应该利用这个暂停期共同制定和实施一套共享的 AI 设计和开发安全协议，这些协议应由独立的外部专家严格审核和监督，应确保遵守它们的系统在合理怀疑范围之外是安全的。这并不意味着暂停整个 AI 领域的发展，而仅仅是从危险的竞赛中退一步，避免研究更大、更难以预测、具有突现性能力的黑箱模型。