AI巨头们联合发出警告:《AI危险声明》指出AI可能影响全球经济稳定

AI快讯 1年前 (2023) AINAV
3,534 0
AI巨头们联合发出警告:《AI危险声明》指出AI可能影响全球经济稳定

全球 AI领导人签署公开信,强调人工智能的危险和可能对人类造成的巨大伤害。
在这封公开信中,全球 AI领导人呼吁商业决策者公开讨论人工智能带来的最大风险,以减轻人工智能对人类生存的威胁。

AI巨头们联合发出警告:《AI危险声明》指出AI可能影响全球经济稳定
信中表示:“减轻人工智能灭绝的风险是全球优先事项,与其他全人类社会规模的危险一样。”
该公开信的参与人包括 AI领域名人 Geoffrey Hinton、 Sam Altman、 Dario Amodei和 Demis Hassabis。
微软首席技术官KevinScott发表了一份公开信,他呼吁业内正视 AI的风险,避免被 ChatGPT等 AI技术的狂热浪潮冲昏了头脑。
此前, Geoffrey Hinton就已经辞去了在谷歌长达十余年的 AI开发工作,并公开讨论 AI所带来的危害。
他认为,计算机模型不如大脑,因此他一直改进计算机模型,以让 AI更多地了解并接近大脑。
但现在GPT-4等模型的性能让他惊觉,计算机模型可能比大脑更擅长学习。

AI巨头们联合发出警告:《AI危险声明》指出AI可能影响全球经济稳定
“我意识到,我们不能像我们想象的那样控制它。”Geoffrey Hinton说:“现在我明白了,计算机模型可能比大脑更擅长学习。”
这让我感到非常可怕。如果它继续发展,它将成为一个非常可怕的东西。
一旦它能进行常识性推理,它就会变得非常可怕。”
“在我看来, ChatGPT已经能进行常识性推理了。所以这并不是一个奇怪的想法:如果它继续发展下去,它可能会操纵我们做坏事。”
数字智能不能像人类智能一样控制;它们可能会设定与人类目标相冲突的目标;这导致非人类智能在与人类交互中占据优势。”

暂无评论

暂无评论...