他本是一位普普通通的高中教师,却活生生养出一个估值40亿美元独角兽。
而且方法也是非常的独特——
打造了世界最大的免费开源数据集,却从未从中收取过一分钱,也婉拒了各类工作的邀请。
他叫舒曼,在德国汉堡市的高中教物理和计算机科学。
两年前他创立了LAION(相当于CLIP图文数据集),如今被用于各种生成模型,包括谷歌Imagen、Parti,以及惊艳全球的Stable Diffusion。
就连Stable Diffuision背后公司Stability AI的创始人曾亲自来送钱时,他都表现出嗤之以鼻的样子,认定“这个人一定是疯了”。
或许他怎么也没想到,只不过两年前灵机一动,就带来了生成式AI的剧变。
2021年新年之际,OpenAI重磅推出DALL-E,GPT-3首次成功实现跨界:
只需对着它说上一段话,就能生成对应图片。
一时间风光无两,吴恩达在内的科技大佬们都激动了,网友们都称其为甲方克星。
瑞银发言人:中银国际在以太坊上发行的代币化票据不涉及中央证券存管机构:6月19日消息,中银国际首次在以太坊上成功发行2亿元人民币全数字化结构性票据,该产品由瑞银负责发起。虽然传统票据需由中央证券存管机构(CSD)持有,但这款证券产品是作为智能合约创建并直接在以太坊网络上注册,因此不涉及CSD,而选择以太坊这样的公共区块链可以实现不同市场参与者之间更大的互操作性和连接性,瑞银客户可以使用法定货币购买该产品,同时瑞银担任该产品的托管人,中银国际副首席执行官Ying Wang则在此前一份声明中表示该产品专为亚太地区的客户设计。[2023/6/19 21:46:04]
但在德国汉堡市郊区的一间房屋内,这位高中教师舒曼(Christoph Schuhmann)却产生了对数据私有化的担忧:
如果这一切都集中在一家、两家或三家公司,那将对社会产生非常糟糕的影响。
当时,OpenAI发表了背后关键模型CLIP的论文。论文中显示,CLIP在4亿个图像-文本对上进行了预训练,在没有精细调整的情况下,最终在各种多模态基准中实现高性能。
Jason Yanowitz:对加密货币中心化金融巨头的持续攻击让他开始思考加密货币行业目前的角色:金色财经报道,Bell Curve 播客联合主持人Jason Yanowitz表示,对加密货币中心化金融巨头的持续攻击让他开始思考加密货币行业目前的角色,以及它们与传统金融的不一致之处。本质上,加密市场中存在三个群体,它们在某些方面与传统市场结构平行,但在目的和功能上混淆地混合在一起或重叠。在加密货币的中心化金融世界中,本身不存在经纪自营商,因为用户的资产直接存放在 Coinbase 等平台上。然后结算有时是在 Coinbase 上,但有时只是在L1上,比如在ETH上。[2023/6/12 21:30:31]
由此可见数据集对于CLIP的重要性,但OpenAI并没有进行公开,它只开源了CLIP的代码和模型权重。
(看来从那时候就已经变得Close了)
于是乎,舒曼就开始在Discord网罗了一群同为AI爱好者的朋友,尝试复制OpenAI同等水平的「文本-图像对」数据集。
没想到这一搞就搞了大半年,直到2021年8月他们首次发布了LAION-400M数据集,里面包含了4.13亿图像-文本对。
或是Snoop Dogg的匿名藏家将22枚NFT捐赠给洛杉矶郡立艺术博物馆:金色财经报道,洛杉矶郡立艺术博物馆(Lacma)宣布于昨日(2月13日)收到一份“礼物”,其中包含了22件在区块链上铸造的NFT艺术品,据称这是美国艺术博物馆的同类藏品中收到规模最大的一次NFT藏品捐赠,据称匿名捐赠者可能是知名说唱歌手、Web3长期支持者Snoop Dogg,但洛杉矶郡立艺术博物馆目前对有关捐赠者身份的询问尚未做出任何回应。上周五(2月10日),法国蓬皮杜艺术中心透露已经获得了18枚NFT作为永久收藏品。(nnn.ng)[2023/2/14 12:05:52]
回顾整个创建过程,舒曼对彭博社这样形容:
就像是用数百万张抽认卡来教一个人一门外语。
他们用一个非盈利组织Common Crawl在2014年到2021年期间,抓取的随机HTML代码来定位网络上的图像,并将这些图像与描述性文本联系起来,最后还得根据一定规则来过滤掉不适合的样本。
比如,删除了所有文本长度少于五个字符;图像小于5KB的的样本;关键字带有NSFW的……几周之内,他们就拥有了300万对图文对。
数据集发布之后就收到了各种反响,被用于诸多论文和实验。其中最具代表性的,就是Google Brain去年(2022)发布的Imagen——文本生成图像的扩散模型。
魏晨阳:数据技术、AI、云计算、区块链正推动金融科技发展:金色财经报道,12月17日,清华大学金融科技研究院副院长魏晨阳在第四届上海金融科技国际论坛上表示,数据技术、人工智能、云计算、区块链等四个核心技术正在推动金融科技发展以及其他传统行业的数字化进程与转型。对于区块链技术,魏晨阳表示,一方面区块链本质上与数据处理、加密技术密不可分,其本身特性、应用场景及潜力受到各方认可;另一方面,区块链也面临技术上的一些瓶颈以及监管上如何界定的问题。[2022/12/18 21:51:24]
与此同时,更多机构开始关注到这个非盈利组织并给予资金支持。2021年他们就收到了HuggingFace的一次性捐赠。
但印象最深的一次,还要属一个对冲基金经理来到Discord聊天室。
当时他二话不说直接送钱,大概意思是:我给你们支付算力费用,没有任何附加条件。
舒曼团队对这个行为嗤之以鼻,甚至觉得他是个疯子:
一开始我们非常怀疑,但大概一个月后,我们获得了价值近1万美元的云计算服务。
巴西世界杯失利后球迷代币在数小时内下跌50%:金色财经报道,巴西在世界杯点球大战中输给克罗地亚后,巴西国家球迷代币BFT几小时内下跌50%,24小时内下跌56%。巴西政府和足协于2021年8月25日推出BFT,为全球投资者和体育爱好者提供特殊的体验。
在撰写本文时,BTF的交易价格为0.091049103780美元,24小时交易量为252,882美元。BFT硬币流通供应量为3000万枚,总供应量为1亿枚。(cryptoslate)[2022/12/10 21:36:12]
后来,这个所谓的“疯子”创办了Stability AI,使用LAION数据集推出了Stable Diffusion,引领了生成式AI的浪潮,顺便还拐走了LAION组织的两个研究人员。
如今Stability AI正在寻求40亿美元(折合276亿元)估值,这主要归功于LAION提供的数据。
据彭博社消息,舒曼却并没有从LAION中获利,原因很简单:不感兴趣,希望保持这份工作的独立性。
因此他还婉拒了各类工作邀请,依旧选择在德国汉堡当一名普普通通的高中老师。
即便如此,随着LAION知名度打响,他还是避免不了地卷入到各种纷扰之中。
目前,LAION已经发布了10项数据集,最具代表性的就是去年3月发布的LAION-5B,由58.5亿个图像文本组成,是当前最大的免费开源数据集。
作为LAION-400M的继任者,它收到了来自HuggingFace、Stability AI以及Doodlebot资助。
结果一发布就遭到了不小的争议,网友们纷纷质疑其数据未经整理,导致充斥大量的非法内容,对此LAION工程师Romain Beaumont回应:
非标注数据集是自我监督学习的基础,这是机器学习的未来。没有人工标注的图像/文本是一项功能,而非错误。
早在Imagen发布时,也专门针对LAION-400M做出警示:因为依赖于这种未经整理的网络数据, 集成了大模型的社会偏见和限制,因此不适合公开使用。
据彭博社消息,为了打造LAION,舒曼团队从亚马逊网络服务、Shopify等公司获取视觉数据,还有包括YouTube缩略图、各类新闻网站上的内容。
对此舒曼表示,任何在网上免费提供的东西都是公平竞争,欧盟也没有人工智能法规。
更何况,也没有人知道OpenAI实际上用什么样的数据集训练AI的。
目前,LAION被迫卷入两场诉讼之中,一起是Stability AI与Midjourney等集体诉讼,被指使用艺术家的版权图片来训练他们的模型;
另一起是Getty Images起诉Stability AI,称其1200万张照片被LAION取走,并用来训练Stable Diffusion。
而舒曼将LAION比作大信息技术海啸之上一艘“小型研究船”,采取海下的样本向世界展示。
其实早在构建数据库时,他们就在运行一个自动化过滤工具,不过舒曼感兴趣的不是清理,而是从这些资产中学习。
我们本可以从公布的数据中过滤掉暴力,但我们决定不这样做,因为这将加快暴力检测软件的开发。
现在更多关于监管的建议在推动,各个科技大厂也在采取相应的措施,比如英伟达就开源了护栏工具,来防止大模型来胡说八道。
但在舒曼看来,数据集不应该被监控。这也正是当时创建LAION时候的初心。
他还警告,如果我们试图放慢速度、过度监管,就会有很大的危险,最终只有少数大公司能负担得起所有的正式要求。
前段时间,在LAION与全球志愿者的合力之下,他们完成了ChatGPT最大开源平替OpenAssistant的发布。
60万余条训练数据全部由人工生成,涵盖了广泛的话题和语言风格,一时间引发众人关注,HuggingFace也直接拿来用来构建它自己的聊天软件HuggingChat。
不可否认的是,他已经在用开源数据集,加剧了生成式AI的浪潮。
但在舒曼的个人网站上,看到的只是一位两个孩子的父亲,在德国当着终身制公务员,游走于中学校之间讲授物理和计算机科学。
舒曼拥有维也纳大学计算机科学与物理学学位。在学习这两个专业之前,他还学了心理学。(大概完成了50%的学士学位然后就转专业了)。
除此之外,他还在学习表演,制作了一部关于孩子学习的纪录片「Schools of Trust」。
最近,这位高中教师也没闲着,他还将作为2023年智源大会嘉宾参与邀请报告与线上论坛环节。
参考链接:https://laion.ai/blog/laion-400-open-dataset/https://www.bloomberg.com/news/features/2023-04-24/a-high-school-teacher-s-free-image-database-powers-ai-unicornshttp://christoph-schuhmann.de/https://www.infoq.com/news/2022/05/laion-5b-image-text-dataset/https://laion.ai/projects/
来源:元宇宙之心
元宇宙之心
企业专栏
阅读更多
金色荐读
金色财经 善欧巴
Chainlink预言机
区块律动BlockBeats
白话区块链
金色早8点
Odaily星球日报
欧科云链
MarsBit
深潮TechFlow
标签:IONLAIAIONAIOZION价格Dolaimi Socialaion币哪个平台能交易aion币哪个平台能交易
作者:Alana Levin, Variant Fund;编译:Cecilia, bfrenz DAOMEV(Maximum Extractable Value).
1900/1/1 0:00:00要说在Web3领域中最为活跃的大型游戏公司,育碧当仁不让。就在最近,这家游戏巨头又有了新动作。育碧(Ubisoft)是一家总部设于法国雷恩的电子游戏开发商和发行商,于 1986 年成立.
1900/1/1 0:00:002023年4月28日,据Beosin-Eagle Eye态势感知平台消息,0vix Protocol项目遭受闪电贷攻击,损失约为200万美元.
1900/1/1 0:00:00流支付(Streaming Money)最早于 2016 年出现概念雏形:链上资金不再是以每隔一定时间区间被批量地转账(比如每月发放的工资、每年支付的会员费).
1900/1/1 0:00:00brc-20相关生态愈发繁荣,因此我们将目光转到brc-20生态的推动者/img/2023525185250/0.jpg" />BRC-20 Token ORANGE发布钓鱼链接.
1900/1/1 0:00:00原文作者:CG什么是ORC-20?ORC-20 是一种开放的标准,是对 BRC-20 的补充和升级。取消了一些 BRC-20 的限制,并且定义了更多的操作.
1900/1/1 0:00:00