CHA:ChatGPT类产品安全隐患解决？英伟达发布开源工具包_3X Short TomoChain Token

随着ChatGPT等AI聊天机器人自去年底以来迅速走红，对于它们安全问题的相关警告也层出不穷。尽管背后的开发者也在竭尽全力地想办法解决这些问题，比如实施资讯过滤和人类纠正那些被标记的问题，但效果都不尽人意。

有鉴于此，英伟达公司（Nvidia Corp.）周二正式发布了一个名为NeMo Guardrails的开源工具包，可以禁止AI聊天机器人提供那些受限的信息，使人工智能驱动的应用程序更加准确、适当、符合主题和安全。

Web3数字资产安全和风险监控公司AnChain与Stellar区块链集成:金色财经报道，Web3数字资产安全和风险监控公司AnChain宣布已与Stellar区块链集成，AnChain.AI的CISO调查平台将为Stellar链上机构提供额外信任层，并为Stellar生态系统创新者创建更安全的跨境支付和资产发行解决方案。（ prnewswire ）[2023/5/9 14:51:43]

每个人都意识到了大型生成语言模型的力量，英伟达应用研究副总裁Jonathan Cohen说，以一种安全可靠的方式部署它们非常重要。

Blockchain.com加入Terra此前推出的1.5亿美元Terra生态基金:官方消息，加密货币钱包和交易平 Blockchain.com宣布，Blockchain.com Ventures已投资LUNA并在Terra网络运行了新的验证节点，同时也已加入此前推出的1.5亿美元的Terra生态基金。[2021/8/31 22:49:50]

英伟达表示，NeMo Guardrails将作为终端用户和人工智能程序之间的一层防护墙。将其与传统软件混合，该系统将能够识别用户提出的事实问题，并检查机器人是否能够和应该回答这个问题。系统还将确定生成的答案是否基于事实，并控制聊天机器人给出回答的方式。

前20名加密货币的市值今年均在下跌，VeChain除外:据CNBC文章称，今年以来，大多数加密货币价格都受到监管打击和黑客攻击的影响。按市值计算，比特币市值已下跌44%，以太坊下跌40%，瑞波币下跌74%。而VeChain市值自1月1日以来已上涨28%，一位分析师表示，这要归因于该公司知名的合作伙伴和独特的结构。[2018/3/29]

例如，假设一名员工询问人力资源聊天机器人，公司是否为想要领养孩子的员工提供支持。这将通过NeMo Guardrails并返回包含公司相关利益的文本。询问同一个机器人有多少员工利用了这一福利，可能会引发拒绝指令，因为这些数据是保密的。Cohen还表示，英伟达已经在Guardrails的底层系统上工作了"多年"，但就在大约一年前意识到它很适合GPT-4和ChatGPT这样的模型。"从那时起，我们一直在朝着NeMo Guardrails的这个版本发展，"他说，"人工智能模型安全工具对于那些为企业用途部署的模型至关重要。"

财联社

媒体专栏

阅读更多

金色荐读

金色财经 善欧巴

Chainlink预言机

白话区块链

金色早8点

Odaily星球日报

欧科云链

深潮TechFlow

MarsBit

Arcane Labs

标签：CHAHAIAINChain0xChartsThingschainprochain3X Short TomoChain Token

币安app官网下载热门资讯