埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克以及更多呼吁“立即暂停”人工智能训练的联名信

埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克联名信,呼吁“立即暂停”人工智能训练,因为人工智能对社会和人类存在潜在风险

推特电动汽车公司的CEO和创始人特斯拉Elon Musk,还有许多人工智能鉴于人工智能对社会和人类的潜在风险,专家呼吁“立即暂停”人工智能系统的训练。

由非营利组织未来生命研究所(Future of Life Institute)发布的一封公开信已经有1000人签名.这封信警告了人工智能对我们所知的社会和文明构成的潜在风险。

这封信警告说:“具有与人类竞争智力的人工智能系统可能对社会和人类构成深刻的风险。只有当我们确信它们的影响是积极的,它们的风险是可控的,才应该开发强大的人工智能系统。”

它呼吁在六个月的短暂时间内停止“危险竞赛”,以开发比OpenAI新推出的GPT-4更强大的系统,GPT-4自成立以来最近在互联网上臭名昭著。

这封信还指出:“人工智能实验室和独立专家应该利用这一停顿,共同开发和实施一套共享的安全协议,用于先进的人工智能设计和开发,这些协议将由独立的外部专家进行严格的审计和监督。这些协议应该确保遵守这些协议的系统是安全的,不容置疑。”

除了马斯克,还有其他人在这封信上签名苹果联合创始人史蒂夫·沃兹尼亚克,被认为是“人工智能教父”的约书亚·贝尼戈,该领域研究的先驱斯图尔特·罗素,以及alphabet旗下DeepMind的研究人员。