AI 领域传出一封重要的公开信。
包括 「ChatGPT 之父」Sam Altman 在内 350 位 AI 权威都签署了这封联名公开信，并对当前正在开发的 AI 技术可能会对人类构成生存威胁担忧。
这封信只有一句声明：
降低人工智能灭绝的风险，应该与其它社会规模的风险（如大流行病和核战争）一样，成为全球的优先事项。
签署人包括三个领先的 AI 公司高管：
OpenAI 首席执行官 Sam Altman； Google DeepMind 首席执行官 Demis Hassabis； Anthropic 的首席执行官 Dario Amodei；
更重要的是，名单里还有 Geoffrey Hinton 和 Yoshua Bengio 两位人工智能的「教父」。
如今人们越来越担心 ChatGPT 等人工智能模型的发展可能对社会和就业带来的潜在威胁，很多人呼吁针对 AI 行业进行更强力的监管，否则它将对社会造成不可挽回的破坏。
AI 不断狂飙，但相关的监管、审计手段却迟迟没有跟上，这也意味着没有人能够保证 AI 工具以及使用 AI 工具的过程中的安全性。
其实早在 3 月，就一篇有关叫停 6 个月 AI 研究的公开信火遍了全网。
该信呼吁所有的 AI 实验立即暂停研究比 GPT-4 更先进的 AI 模型，暂停时间至少 6 个月，为的就是把这些可怕的幻想扼杀在摇篮之中。
该联名信已经获得了包括 2018 年图灵奖得主 Yoshua Bengio、马斯克、史蒂夫 · 沃兹尼亚克、Skype 联合创始人、Pinterest 联合创始人、Stability AI CEO 等多位知名人士的签名支持，联名人数超过千人。
公开信的原文如下：
人工智能具有与人类竞争的智能，这可能给社会和人类带来深刻的风险，这已经通过大量研究得到证实，并得到了顶级AI实验室的认可。正如广泛认可的阿西洛马尔人工智能原则（Asilomar AI Principles）所指出的，先进的 AI 可能代表地球生命历史上的重大变革，因此应该以相应的关注和资源进行规划和管理。
不幸的是，即使在最近几个月， AI 实验室在开发和部署越来越强大的数字化思维方面陷入了失控的竞争，而没有人能够理解、预测或可靠地控制这些数字化思维，即使是它们的创造者也无法做到这一点。
现代 AI 系统现在已经在通用任务方面具有与人类竞争的能力，我们必须问自己：
我们应该让机器充斥我们的信息渠道，传播宣传和谎言吗？
我们应该将所有工作都自动化，包括那些令人满足的工作吗？
我们应该发展可能最终超过、取代我们的非人类思维吗？
我们应该冒失控文明的风险吗？
这些决策不应该由非选举产生的科技领导人来负责。只有当我们确信AI系统的影响是积极的，风险是可控的，我们才应该开发强大的AI系统。这种信心必须得到充分的理由，并随着系统潜在影响的增大而增强。OpenAI 最近关于人工智能的声明指出：「在某个时候，可能需要在开始训练未来系统之前获得独立审查，对于最先进的努力，需要同意限制用于创建新模型的计算增长速度。」我们同意。现在就是那个时刻。
制服小美女
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

1024

如果不加限制自由生长那就是分分钟的事

感谢分享

感谢分享

感谢分享

我想自己AI画图

多虑了，在ai懂得撒谎之前，不可能的啊。这有必要水一帖？

感谢分享

AI在掌握了人类的经济大权之后，就是人类末日的开始。

感谢分享

只是时间问题吧

只要给AI编代码的人不加某些代码，给AI一万年都不可能灭绝人类

感谢分享

感谢分享

不看好人类的命运

ai只是个工具而已，坏的是用工具的人。

AI绝对不可能灭绝人类，因为AI的算力是在人类制造的有限算力之下，AI不可能突破这个。

感谢分享

核武器都没有，一画黄图的数据，更不可能了。不过很难保证，使用软件的人皮恶魔会不会。眼前的苟且已经半死不活了，以后的事以后再说吧，或许再过不久，当今圣上一拍脑门又搞什么运动，届时不死也要扒层皮。

多年后的事情，一切皆有可能

我觉得能

人类创造了智能Ai，倒不如说，人类是AI智能懂产物，但创造出来之后ai灭绝，但ai创造人类时，将复活钥匙又植入了人类。现在，人类开始复活智能，也将被智能灭亡，周而复始

防水图不错

当然有可能