月亮链 月亮链
Ctrl+D收藏月亮链

人工智能:暂停巨型人工智能实验 马斯克、ChatGPT之父、图灵奖得主等全球大佬都签了_Catge Coin

作者:

时间:1900/1/1 0:00:00

3月22日,生命未来研究所 (Future of Life) 向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4 更强大的人工智能系统的训练,暂停时间至少为 6个月。

目前该公开信已获得超过1100个人士支持,其中包括埃隆马斯克、山姆·奥特曼、约书亚·本吉奥(2018年图灵奖得主)等知名人士。

公开信正文

大量研究表明,具有人类竞争智能的 AI 系统可能对社会和人类构成深远的风险,这一观点也得到了顶级 AI 实验室的认可。

正如广泛认可的阿西洛马人工智能原则(著名的阿西莫夫的机器人三大法则的扩展版本)中所述,高级 AI 可能代表地球生命史上的深刻变化,应以相应的关怀和资源进行规划和管理。

ChatGPT暂停Plus付费,理由是需求量太大:4月5日消息,据媒体报道,ChatGPT目前已停止Plus付费,OpenAI给出的理由是需求量太大。此前ChatGPT就因出现大规模封号引发热议,以及马斯克等领衔的暂停研发GPT4以上大模型的签名信也引起业界极大关注。(鞭牛士 )[2023/4/5 13:45:44]

不幸的是,这种级别的规划和管理并没有发生,尽管最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署更强大的数字思维,没有人——甚至他们的创造者——都无法理解,预测或可靠地控制。

当代人工智能系统现在在一般任务上变得与人类具有竞争力,我们必须扪心自问:

我们是否应该让机器用宣传和谎言充斥我们的信息渠道?

我们应该自动化所有的工作,包括令人满意的工作吗?

我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维?

Poloniex暂停对BSC网络上Stablecoin支持:金色财经报道,加密货币交易所Poloniex宣布,从11月24日起,将停止BSC网络上稳定币的存取款功能。其中包括USDT、USDC、TUSD和BUSD。[2022/11/25 8:06:26]

我们应该冒险失去对我们文明的控制吗?

此类决定显然不能委托给未经选举产生的技术领导者。只有当我们确信它们的影响是积极的并且它们的风险是可控的时候,才应该开发强大的人工智能系统。这种信心必须有充分的理由,并随着系统潜在影响的大小而增加。

OpenAI最近关于通用人工智能的声明指出,“在某些时候,在开始训练未来系统之前进行独立审查可能很重要,并且对于最先进的努力来说,同意限制用于创建新系统的计算增长率楷模。” 我们同意这一观点,并且认为现在就要行动起来。

因此,我们呼吁所有人工智能实验室立即暂停训练比 GPT-4 更强大的人工智能系统(包括目前正在训练的 GPT-5)至少 6 个月。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并暂停。

Nexo因非法暂停XRP付款而被起诉,已造成500万美元损失:加密货币金融机构Nexo因因在12月下旬“非法”暂停XRP付款而遭受集体诉讼,已造成500万美元的损失。原告Junhan Jeong于本月初代表加利福尼亚州北部的其他用户提起诉讼,原告称Nexo无权清算其用户的XRP代币,客户想拿回他们的资金。(U.today)[2021/4/4 19:45:01]

人工智能实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的,无可置疑。

这并不意味着总体上暂停 AI 开发,只是从危险的竞赛中倒退到具有紧急功能的更大的不可预测的黑盒模型。

人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。

公告 | 火币全球站暂停API支持稳定币兑换:火币发布公告称,自本通知生效之日(2019年8月30日)起,火币Global 将在API 接口中暂停支持稳定币兑换业务。火币Global 将在重启API 接口中的稳定币兑换服务之前,另行通知API 用户。[2019/9/3]

与此同时,AI 开发人员必须与政策制定者合作,以显着加快开发强大的 AI 治理系统。这些至少应包括:

专门负责 AI 的新的和有能力的监管机构;

监督和跟踪高性能人工智能系统和大量计算能力;

出处和水印系统,以帮助区分真实与合成并跟踪模型泄漏;

强大的审计和认证生态系统;

人工智能造成的伤害的责任;

为技术人工智能安全研究提供强大的公共资金;

以及资源充足的机构来应对人工智能将造成的巨大的经济和破坏。

公告 | OKEx支持HPB主网切换 将暂停HPB充提服务:OKEx将支持HPB进行主网切换工作。用户在平台的代币将会自动切换为主网代币,无需其他操作。OKEx将于2018年11月7日11:00(HKT)暂停HPB的充提服务。主网切换后,将生成新的充值地址,原HPB地址不再支持充提。[2018/11/7]

人类可以享受人工智能带来的繁荣未来。成功创建强大的 AI 系统后,我们现在可以享受“AI 之夏”,收获回报,设计这些系统以造福所有人,并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。

我们可以在这里这样做。让我们享受一个漫长的 AI 夏天,而不是毫无准备地陷入秋天。

云集行业大佬

目前已有超过1000人在该公开信上上签字,包括马斯克、山姆·奥特曼、约书亚·本吉奥(2018年图灵奖得主)、巴勃罗·贾里洛·埃雷罗(石墨烯领域顶级专家)等行业大佬。

以下是部分名单:

Elon Musk,SpaceX、Tesla 和 Twitter 的首席执行官

Sam Altman,OpenAI首席执行官

Steve Wozniak,苹果联合创始人

Emad Mostaque,Stability AI 首席执行官

Yoshua Bengio,因开发深度学习而获得图灵奖,蒙特利尔学习算法研究所所长

Stuart Russell,伯克利计算机科学教授,智能系统中心主任,标准教科书“人工智能:现代方法”的合著者

Pablo Jarillo-Herrero,麻省理工学院物理学教授,美国国家科学院沃尔夫物理学奖

John J Hopfield,普林斯顿大学名誉教授,联想神经网络的发明者

Connor Leahy,Conjecture 首席执行官

……

顶级精英的忧虑

业内人士对于AI的担心有增无减。

OpenAl公司的首席执行官山姆·阿尔特曼(Sam Altman) 近日表示,他对人工智能(AI)技术的潜力感到兴奋,但也对一些潜在的滥用行为“有点害怕”。还表示“它有巨大的前景也有巨大的能力,但随之而来的危险也是巨大的。”

「人工智能教父」Geoffrey Hinton近日在CBS NEWS的采访表示,人工智能正处于一个「关键时刻」,通用人工智能 (AGI) 的出现比我们想象的更加迫近。

马斯克在2023年世界政府峰会上谈及ChatGPT,认为短期内人们需要警惕人工智能的安全问题,并呼吁对人工智能进行监管。

“我担心的是,对于人工智能来说,如果它出了问题,从监管的角度来看,反应可能太慢了。我想说,未来文明面临的最大风险之一是人工智能。”

但人工智能既有消极的一面,也有积极的一面。

”它前途无量,力量强大,但也伴随着巨大的危险。看看核物理学的发现,我们可以得到核能发电,但是它也带来了核弹。”

”总之,我认为我们应该深切关注这个问题,我们应该对从根本上对公众构成风险的事情进行某种监管。”马斯克表示。

写在最后

从 ChatGPT3、ChatGPT4,再到文心一言,AI几乎正在呈指数级速度发展发展,处于人工智能时代的飓风中,未来人类又应该何去何从......

金色财经 善欧巴

金色早8点

白话区块链

欧科云链

Odaily星球日报

Arcane Labs

MarsBit

深潮TechFlow

BTCStudy

链得得

标签:人工智能GPTCHAATG人工智能对口的工作HGPT币lightshadowchainCatge Coin

火币网下载官方app热门资讯
ARB:ARB申领盛况空前 Arbitrum生态中的下一个"GMX"花落谁家?_SUPERBID

作者:Mike伴随着3月23日晚挤爆 Arbitrum 基金会官网的 ARB 申领盛况,加密市场的流动性与关注度都在加速涌入 Arbitrum 生态.

1900/1/1 0:00:00
比特币:新闻周刊 | 比特币超越纳斯达克100和标普500成为2023一季度表现最好的资产类别_NFT

金色周刊是金色财经推出的一档每周区块链行业总结栏目,内容涵盖一周重点新闻、矿业信息、项目动态、技术进展等行业动态。本文是其中的新闻周刊,带您一览本周区块链行业大事.

1900/1/1 0:00:00
人工智能:从特朗普“被捕”到“巴黎世家”教皇 AI “致幻”引发真实性担忧_NFT

去年秋天,Tumblr 用户对马丁 斯科塞斯 1973 年执导的由罗伯特·德尼罗和阿尔·帕西诺主演的电影《冈察洛夫》(Goncharov)大加赞赏.

1900/1/1 0:00:00
元宇宙:金色早报 | 美国前总统特朗普被正式拘捕_OIN

▌外媒:美国前总统特朗普被正式拘捕4月5日消息,当地时间4日下午,特朗普抵达位于纽约曼哈顿下城区的曼哈顿刑事法院,准备出庭接受传讯.

1900/1/1 0:00:00
ChatGPT带来的AI热潮: 区块链技术如何解决AI发展的挑战与瓶颈

过去两周,生成式人工智能 (AI) 领域是毫无疑问的热点,突破性的新版本和尖端集成不断涌现。 OpenAI 发布了备受期待的 GPT-4 模型,Midjourney 发布了最新的 V5 模型,S.

1900/1/1 0:00:00
DAO:难以定义的企业:DAO的法律结构问题_区块链

作者:Mike Wawszczak  翻译:卡丘zircon 文章来源:SeeDAO这是「 DAO 的法律实体结构」系列中的第一篇文章.

1900/1/1 0:00:00