AGI:OpenAI 创始人 Sam Altman 发文：让通用人工智能（AGI）成为人类的放大器_Avant Sport

前言：OpenAI创始人SamAltman近日发文阐述了通用人工智能的短期和长期愿景。他认为通用人工智能将造福全人类，赋予每个人不可思议的新能力，但同时也伴随着风险。我们的使命是确保通用人工智能——通常比人类更聪明的人工智能系统——造福全人类。

如果AGI成功创建，这项技术可以通过增加丰富度、推动全球经济发展以及帮助发现改变可能性极限的新科学知识来帮助我们提升人类。

AGI有潜力赋予每个人不可思议的新能力；我们可以想象这样一个世界，在这个世界中，我们所有人都可以获得几乎所有认知任务的帮助，为人类的聪明才智和创造力提供巨大的力量倍增器。

另一方面，AGI也会带来严重的滥用、严重事故和社会混乱的风险。由于AGI的优势如此之大，我们不认为社会能够永远阻止其发展，同时这样做也是不可取的；相反，整个社会和AGI的开发者必须想办法把它做好。

The ETF Store总裁：灰度胜诉或有助于现货比特币ETF获得批准:金色财经报道，美国证券交易委员会进一步推迟对Ark Invest和21Shares现货比特币 ETF 的决议，专家表示，即将到来的法院裁决和该机构提出的问题可能会产生重大影响。

咨询公司The ETF Store总裁Nathan Geraci认为，Grayscale Investments 针对美国证券交易委员会 (SEC) 提起的诉讼的最终裁决可能会发挥作用，SEC将等待灰度诉讼的最终裁决，该裁决可能随时都会做出，并补充说这可能对SEC有利。

Geraci 表示，一旦（最终裁决）发生，假设 Grayscale 胜诉，那么现货比特币 ETF 批准的关键将是 SEC 如何看待 ETF 上市交易所提出的 Coinbase 监控共享协议，他相信有利的 Grayscale 裁决和 Coinbase 监督共享协议将足以让 SEC 批准现货比特币 ETF。[2023/8/12 16:21:27]

虽然我们无法准确预测会发生什么，当然我们目前的进展可能会碰壁，但我们可以阐明我们最关心的原则：

Bling Capital：和FTX不在一个圈子，不会将加密货币作为重点领域:金色财经报道，Bling Capital宣布完成了两个新风险基金总计2.12亿美元资本承诺，包括1.09亿美元的种子期近工具和1.03亿美元的机会型基金，该基金创始人Ben Ling透露，虽然他们也在迈阿密，但FTX不在一个圈子，其圈内大概只有十分之一是专注于加密货币的投资者，新基金不会将加密货币作为重点领域，后续也不会不花大量时间与加密基金和风险投资公司打交道。（雅虎财经）[2022/11/16 13:11:12]

我们希望AGI能够赋予人类在宇宙中最大程度地繁荣发展的能力。我们不希望未来成为一个不合格的乌托邦，但我们希望将好的一面最大化，将坏的一面最小化，让AGI成为人类的放大器。我们希望AGI的好处、获取和治理得到广泛和公平的分享。我们希望成功应对巨大风险。在面对这些风险时，我们承认理论上似乎正确的事情在实践中往往比预期的更奇怪。我们认为，我们必须通过部署功能较弱的技术版本来不断学习和适应，以最大程度地减少“一次就可以搞定”的情况。短期愿景

香港房地产大亨郑志刚旗下C Capital计划筹集5亿美元投资区块链资产:9月21日消息，香港房地产大亨、周大福家族财富继承人郑志刚旗下基金C Capital计划在未来18个月内筹集5亿美元用于投资区块链资产、信贷和私募股权，押注私营公司和数字资产。知情人士称，该公司还由美银美林前银行家Ben Cheng共同创立，Cheng表示，其对冲基金策略主要专注于加密交易。（彭博社）[2022/9/21 7:10:14]

我们认为现在有几件事很重要，可以为AGI做准备。

首先，随着我们不断创建更强大的系统，我们希望部署它们并获得在现实世界中操作它们的经验。我们相信这是谨慎管理AGI存在的最佳方式——逐渐过渡到AGI世界比突然过渡要好。我们期望强大的AI能够加快世界进步的速度，我们认为最好是逐步适应这一点。

渐进的过渡让民众、政策制定者和机构有时间了解正在发生的事情，亲身体验这些系统的好处和缺点，调整我们的经济，并实施监管。它还允许社会和AI共同进化，并允许人们在风险相对较低的情况下共同弄清楚他们想要什么。

Moonbeam社区通过Interim Grant Program提案，包含审查和批准流程:9月15日，据官方消息，经历一系列社区讨论和历时7天的投票，一份全新的Grants审查和批准流程的社区提案已通过Moonbeam链上治理步骤。该提案给社区提供更多的机会，为Moonbeam基金会发布的Grants贡献更多参与度。

该新计划的通过给Moonbeam社区提供进行投票的方法，比如关于提交Grant资助的提案、讨论这些提案、以及对如何投票价值量最大的Grants。

此外，还有两个对于目前流程的新增内容：一个包含Moonbeam基金会和非基金会的社区成员的五人Grants委员会的建立，以及社区直接对超过15万美元的grant提案的投票方法。

该计划在公投成功后立刻生效并会持续六个月。由该社区提案引入的新结构会在波卡治理v2推出时重新审视，除非社区更早对其进行修改。[2022/9/15 6:58:42]

我们目前认为，成功应对AI部署挑战的最佳方法是采用快速学习和谨慎迭代的紧密反馈循环。社会将面临AI系统被允许做什么、如何消除偏见、如何处理工作岗位流失等重大问题。最佳决策将取决于技术所采用的路径，并且与任何新领域一样，到目前为止，大多数专家预测都是错误的。这使得在真空中进行规划非常困难。

市场消息：Meta的元宇宙硬件、耳机业务放缓:6月22日，市场消息：Meta的元宇宙硬件、耳机业务放缓。Meta将2022年的出货量预测下调40%。2024年后，Meta将推迟所有新的耳机/AR/MR硬件项目。（金十）[2022/6/22 4:44:50]

一般来说，我们认为在世界上更多地使用AI会带来好处，并希望推广它。我们相信，民主化的访问也将导致更多更好的研究、去中心化的权力、更多的利益以及更多的人贡献新的想法。

随着我们的系统越来越接近AGI，我们对模型的创建和部署变得越来越谨慎。我们的决定将需要比社会通常对新技术应用的谨慎得多，也比许多用户希望的谨慎得多。AI领域的一些人认为AGI的风险是虚构的；如果结果证明他们是对的，我们会很高兴，但我们将把这些风险视为真实存在。

在某些时候，部署的利弊之间的平衡可能会发生变化，在这种情况下，我们将围绕持续部署显着改变我们的计划。

其次，我们正在努力创建更加一致和可控的模型。我们从GPT-3的第一个版本等模型到InstructGPT和ChatGPT的转变就是一个早期的例子。

特别是，我们认为重要的是社会就如何使用AI达成极其广泛的界限，但在这些界限内，个人用户有很大的自由裁量权。我们最终的希望是世界机构就这些广泛的界限应该是什么达成一致；在短期内，我们计划对外部输入进行实验。世界上的机构将需要通过额外的能力和经验得到加强，以便为有关AGI的复杂决策做好准备。

我们产品的“默认设置”可能会受到很大限制，但我们计划让用户可以轻松更改他们正在使用的AI的行为。我们相信赋予个人做出自己的决定的权力和思想多样性的内在力量。

随着我们的模型变得更加强大，我们将需要开发新的对齐技术。我们的短期计划是使用AI来帮助人类评估更复杂模型的输出并监控复杂系统，而从长远来看，使用AI来帮助我们提出新的想法以实现更好的对齐技术。

重要的是，我们认为我们经常需要在AI安全和能力方面共同取得进展。分开谈论它们是错误的二分法。它们在很多方面是相关的。我们最好的安全工作来自与我们最有能力的模型一起运行。也就是说，提高安全进步与能力进步的比率很重要。

第三，我们希望就三个关键问题展开全球对话：如何治理这些系统，如何公平分配它们产生的收益，以及如何公平共享访问权限。

除了这三个领域之外，我们还尝试以一种使我们的激励措施与良好结果相一致的方式来建立我们的结构。我们的章程中有一个条款是关于协助其他组织提高安全性，而不是在后期AGI开发中与他们竞争。我们对股东可以获得的回报设定了上限，这样我们就不会被激励去尝试无限制地获取价值，也不会冒险部署具有潜在灾难性危险的东西。我们有一个非营利组织来管理我们，让我们为人类的利益而经营，包括让我们做一些事情，比如在安全需要的情况下取消我们对股东的股权义务，并赞助世界上最全面的UBI实验。

我们认为像我们这样的努力在发布新系统之前提交独立审计是很重要的；我们将在今年晚些时候更详细地讨论这个问题。在某些时候，在开始训练未来系统之前获得独立审查可能很重要，并且对于最先进的努力来说，同意限制用于创建新模型的计算增长率。我们认为关于AGI工作何时应停止训练运行、确定模型可以安全发布或从生产使用中撤出模型的公共标准很重要。最后，我们认为重要的是世界主要政府对超过一定规模的培训有洞察力。

长期愿景

我们认为，人类的未来应该由人类决定，与公众分享有关进步的信息很重要。应该对所有试图建立AGI的努力进行严格审查，并对重大决策进行公众咨询。

第一代AGI将只是智能连续体上的一个点。我们认为进展很可能会从那里继续，可能会在很长一段时间内保持我们在过去十年中看到的进展速度。如果这是真的，世界可能会变得与今天截然不同，风险可能会非常大。一个错位的超级智能AGI可能会对世界造成严重的伤害；一个拥有决定性超级情报领导的专制政权也可以做到这一点。

可以加速科学发展的AI是一个值得思考的特例，也许比其他任何事情都更有影响力。有足够能力加速自身进步的AGI可能会导致重大变化以惊人的速度发生。我们认为较慢的起飞更容易确保安全，并且AGI努力在关键时刻减速可能很重要。

成功过渡到一个拥有超级智能的世界可能是人类历史上最重要、最有希望、最可怕的项目。成功远未得到保证，而利害关系有望将我们所有人团结起来。

我们可以想象一个人类繁荣到我们任何人都无法完全想象的程度的世界。我们希望为世界贡献一个与这种繁荣相一致的通用人工智能。

感谢BrianChesky、PaulChristiano、JackClark、HoldenKarnofsky、TashaMcCauley、NateSoares、KevinScott、BradSmith、HelenToner、AllanDafoe和OpenAI团队审阅本文的草稿。

标签：AGIANTRANETFmagicdatacoinAvant SportRankerDAOPocketful of Quarters

MANA热门资讯