月亮链 月亮链
Ctrl+D收藏月亮链
首页 > 火必APP > 正文

API:又是一年开源之夏,八大课题项目奖金等你来拿!_API币DAG价格

作者:

时间:1900/1/1 0:00:00

又是一年季。今年,ApacheDolphinScheduler同样参与到了活动中来,希望有更多学生群体关注到ApacheDolphinScheduler,并踊跃参与项目共建拿奖金!

No.1活动介绍

开源之夏是由“开源软件供应链点亮计划”发起并长期支持的一项暑期开源活动,由中国科学院软件研究所与openEuler社区共同举办,旨在鼓励在校学生积极参与开源软件的开发维护,促进优秀开源软件社区的蓬勃发展,培养和发掘更多优秀的开发者。

学生可自主选择感兴趣的项目进行申请,并在中选后获得社区导师亲自指导。根据项目的难易程度和完成情况,参与者还将获取开源之夏活动奖金和结项证书。

开源之夏活动官网:https://summer.iscas.ac.cn/

No.2活动日程

No.3项目介绍

ApacheDolphinScheduler是一个云原生易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中复杂的任务依赖关系,使各种任务类型(Spark/Flink/MR/Shell/Python/SQL等)在工作流编排中开箱即用。

No.4奖金设置

进阶:奖金人民币12000元

优化类的任务,例如提高性能,降低资源占有

基础:奖金人民币8000元

功能类的任务,例如为本社区开源项目增加一个或若干个重要特性等

No.5八大课题

本次活动,ApacheDolphinScheduler开源社区共设有8个项目课题具体如下,欢迎参与:

01为DolphinSchedulerPythonAPI添加资源文件

汉莎航空于Polygon上推出基于NFT的忠诚度计划:8月31日消息,汉莎航空集团宣布正式推出基于NFT的忠诚度计划,该计划奖励参与乘客可以解锁额外福利的数字收藏品。

汉莎航空集团旗下的所有航空公司都参与了Uptrip忠诚度计划,Uptrip由汉莎航空集团推出,构建于Polygon上。[2023/8/31 13:08:50]

222290294

进阶/Advanced

Python

目前,DolphinSchedulerPythonAPI只能传递字符串格式传递任务的参数,例如我们的tutorial

dolphinscheduler/dolphinscheduler-python/pydolphinscheduler/src/pydolphinscheduler/examples/tutorial.py

我们只将一个字符串传递给shell任务类型。但通常来说,用户希望具体的执行代码储存在其他系统中,例如将具体文件存储在本地文件系统、GitHub、GitLab、AmazonS3、阿里云OSS等。也许我们可以添加语法糖让用户更加简单的操作外部文件

任务task_parent将从URLhttps://github.com/apache/dolphinscheduler/blob/dev/script/install.sh加载文件内容并将其传递给参数command,它使我们的DAG文件更容易和可维护

实现Resource的插件化

实现具体的插件Resource包括但不限于本地文件系统,GitHub,GitLab,AmazonS3,阿里云OSS

PythonAPI的通过测试覆盖率,当前阈值为90%

文档,包括开发和使用

熟悉python,包括decorator、io、network、unittest、document

https://github.com/apache/dolphinscheduler

福克斯记者:美国法官命令Ripple和美SEC在3个双方都方便的日期召开和解会议:金色财经报道,福克斯商业新闻记者Eleanor Terrett在社交媒体上称,美国法官Sarah Netburn命令Ripple和美国SEC在3个双方都方便的日期召开和解会议。由于法庭日程繁忙,还建议提前6-8周安排。[2023/7/18 11:01:05]

https://github.com/apache/dolphinscheduler-website

钟嘉杰

联系方式:zhongjiajie955@gmail.com

02资源中心优化

222290456

进阶/Advanced

Java、Shell

重构Dolphinscheduler资源中心的读写逻辑

目前资源中心读写HDFS/S3/本地目录通过在数据库表中t_ds_resources记录文件/文件夹目录来实现文件记录,但是在用户初始化DS或者用户在DS的外部修改了第三方存储的内容的时候DS无法进行实时同步,希望能够与第三方存储的内容保证实时同步

DS不存储资源中心中文件的路径,对于资源中心的读写全都通过调用第三方API实现,只保存任务实例依赖到的内容路径于数据库用于文件删除校验。

实现现有的资源中心的所有功能,其中包括文件/文件夹增删改查,任务实例调用资源中心

后端API文档

了解Linux系统,对Linux文件管理有一定的熟悉

了解HDFS/S3组件,能够较快速的根据官方文档学习API的使用

熟悉Java语言

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

向梓豪

联系方式:zihaoxiang@apache.org

数字欧元原型是基于Token并使用UTXO:金色财经报道,欧洲中央银行 (?ECB?) 在其零售数字欧元原型简报中分享了有关当前设计特征的详细信息。原型简报显示当前的数字欧元迭代是基于令牌的,并使用UTXO,这是一种由比特币推广的令牌模型。但是,这并不意味着它使用区块链。

麻省理工学院与波士顿联邦储备银行在汉密尔顿项目上合作,使用比特币的UTXO模型而不是区块链。该技术作为开源软件发布。欧洲央行文件指出,数字欧元UTXO分类账是欧元系统专家的全新设计。用户不会控制他们在数字欧元原型中的私钥,而密钥将由钱包服务提供商代替他们保管。[2022/12/9 21:32:09]

03master/worker/api模块日志优化

222290457

进阶/Advanced

Java

由于DS日志不方便真实定位问题,需要将打印日志进行规范及优化

整理出DS打印日志规范指导文档,并提交到文档库

将master/worker/api模块按照规范文档进行落地并提交到开发分支

熟悉Java语言

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

进勇

联系方式:jiny.li@foxmail.com

04自动收集、保存作业提交的Yarn作业的applicationid

222290458

进阶/Advanced

Java

DolphinScheduler支持各种各样的作业,比如Python、Shell等,其中一个很基础的功能就是收集这些作业创建的YarnJob的applicationid。现在的实现方式是用一个正则表达式从作业的日志中解析,但这并不是一个完美的实现方式,本课题的任务就是用一种新的方式去自动收集、报错YarnJob的applicationid信息,当然了,必须对用户透明,即对用户创建的作业无侵入。

Web3游戏和娱乐工作室Heroic Story完成600万美元种子轮融资:金色财经报道,Web3游戏和娱乐工作室Heroic Story在Upfront Ventures领投的种子轮融资中筹集了600万美元,Multicoin Capital和Polygon Technology参投,Andreessen Horowitz的Jonathan Lai和Miramax的电影负责人Wolfgang Hammer等天使投资人也参与其中。Heroic Story由Jay和Scott Rosenkrantz兄弟于2019年在Y Combinator成立,旨在为web3时代重新构想类似于龙与地下城的传统桌面角色扮演游戏(RPG)。[2022/11/18 13:18:48]

自动收集、报错YarnJob的applicationid信息

必须对用户透明,即对用户创建的作业无侵入

熟悉Java,Yarn,Hive,SparkSQL,AOP

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

gabrywu

联系方式:gabrywu@apache.org

05为DolphinScheduler添加服务初始化的工作流demo

222290459

进阶/Advanced

Java、Shell

用户在启动DolphinScheduler服务后,可以使用demo-tool程序预置工作流demo,包括但不限于简单的shell任务、逻辑组件任务、参数传递等功能,引导用户更方便地使用DolphinScheduler。

预置工作流demo的tool程序

服务启动脚本添加init模式

工作流demo包括但不限于shell任务、逻辑组件任务、参数传递等

冷冻食品集团McCain Foods希望年轻消费者在Roblox上种植其元宇宙土豆:金色财经报道,冷冻食品集团McCain Foods希望年轻消费者在Roblox上的新游戏中种植其元宇宙土豆。集成到Roblox流行的Livetopia游戏中,未来农场允许玩家使用可改善和恢复土壤健康的再生农业方法虚拟种植土豆。免费游戏将于今天推出。[2022/10/28 11:53:26]

熟悉Java、Shell

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

蔡顺峰

联系方式:caishunfeng2021@gmail.com

06为DolphinScheduler添加Java任务类型

222290460

进阶/Advanced

Java、Shell、Vue、TypeScript

提供Java类型的调度任务,包括Jar和自定义Java代码两种方式,通过WEBUI定义Java运行时所需要的Resources、Libs资源文件和JVM参数,覆盖定时任务调用Java程序场景并提升用户方便配置。

可执行的Java类型任务插件

Java类型插件支持Jar方式,提供Resources、Libs资源文件和JVM参数的动态参数输入

Java类型插件支持WebUI自定义Java代码方式,提供Java类即时编译,执行

熟悉Shell、Java、SPI、Javacompiler、VUE3、TypeScript

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

Kerwin

联系方式:zhuangchong6@163.com

07支持测试任务

222290461

进阶/Advanced

Java、Vue

目前新增/修改的工作流在上线前很难验证工作流配置是否正确,只能通过在线上环境执行来验证,所以有必要支持测试环境执行任务。

数据源中心支持配置测试环境源,线上环境源可绑定一个测试环境源。任务执行及工作流执行支持“是否测试”选项,选择测试时,Worker节点在任务执行前,自动替换线上环境源为绑定的测试环境源,再配合Worker分组实现线上、测试环境的隔离,最终达到支持测试任务的目标。

数据源配置页面增加线上、测试选项,支持绑定测试源

工作流执行页面、任务执行页面新增线上、测试选项

Master节点、Worker节点解析执行环境标识,替换数据源为测试数据源

工作流实例、任务实例页面增加执行环境标识

熟悉Java、Spring、VUE3

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

温合民

联系方式:whm_777@163.com

08为DolphinScheduler的项目和资源中心增加读写权限的授权管理

222290462

基础/Basic

Java、Vue、TypeScript

当前DolphinScheduler对于权限的管控相对比较简单,希望在进行项目和资源中心授权时增加操作权限管控来进行读写权限的分离。

针对单个项目的全部内容进行读写权限区分,对单个用户针对单个项目授权只读或者读写权限

针对资源中心的全部内容进行读写权限区分,基于当前资源中心的授权内容区分出只读或者读写权限

进行授权时前端页面增加只读和读写的授权操作

熟悉Java、Spring、Vue3、TypeScript

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

孙朝和

联系方式:sunzhaohe0825@gmail.com

No.6申请参与项目

01申请资格

本活动面向年满18周岁在校学生。

暑期即将毕业的学生,只要在申请时学生证处在有效期内,就可以提交申请。

海外学生可提供录取通知书/学生卡/在读证明证明学生身份。

02参与流程

03申请建议

欢迎主动向导师发送邮件进行沟通,附上自己的方案和简历,更加了解你~

认真了解社区项目文档,与导师充分沟通。

欢迎加入交流群交流

参与贡献

随着国内开源的迅猛崛起,ApacheDolphinScheduler社区迎来蓬勃发展,为了做更好用、易用的调度,真诚欢迎热爱开源的伙伴加入到开源社区中来,为中国开源崛起献上一份自己的力量,让本土开源走向全球。

参与DolphinScheduler社区有非常多的参与贡献的方式,包括:

贡献第一个PR(文档、代码)我们也希望是简单的,第一个PR用于熟悉提交的流程和社区协作以及感受社区的友好度。

社区汇总了以下适合新手的问题列表:https://github.com/apache/dolphinscheduler/issues/5689

非新手问题列表:https://github.com/apache/dolphinscheduler/issues?q=is%3Aopen+is%3Aissue+label%3A%22volunteer+wanted%22

如何参与贡献链接:https://dolphinscheduler.apache.org/zh-cn/docs/development/contribute.html

来吧,DolphinScheduler开源社区需要您的参与,为中国开源崛起添砖加瓦吧,哪怕只是小小的一块瓦,汇聚起来的力量也是巨大的。

参与开源可以近距离与各路高手切磋,迅速提升自己的技能,如果您想参与贡献,我们有个贡献者种子孵化群,可以添加社区小助手微信(Leonard-ds),手把手教会您(贡献者不分水平高低,有问必答,关键是有一颗愿意贡献的心)。

添加小助手微信时请说明想参与贡献。

来吧,开源社区非常期待您的参与。

活动推荐

当数据资源成为生产发展乃至于生存过程中必不可少的要素,企业该如何通过数据集成帮助企业数据服务全生命周期落地呢?5月14日,数据集成框架ApacheSeaTunnel(Incubating)将邀请一站式数据集成平台ApacheInLong(Incubating)的技术专家与开源贡献者们,一同来到直播间,与大家畅谈使用ApacheSeaTunnel(Incubating)与ApacheInLong(Incubating)后的实践经历与心得体会。

直播链接:https://www.slidestalk.com/m/777

标签:APIDAGHDFSAPI价格API币DAG价格DAG币HDFS币是什么币

火必APP热门资讯
USD:颠覆加密圈价值生态:浅析去中心化稳定币USDD的本质及其意义_SDDUSD币

比特币和以太坊等主流数字资产交易的兴盛,催生了中心化抵押型稳定币这一交易媒介的诞生,其中的代表是USDT和USDC等。客观而言,他们为降低交易磨损、提高交易效率,发挥了突出的作用.

1900/1/1 0:00:00
数字人:神州信息研究报告:聚焦金融科技业务,分布式转型驱动发展加速_CAG

1神州信息:银行IT解决方案领域的领导者1.1聚焦金融数字化转型,深耕软件服务及系统集成聚焦金融数字化转型,深耕软件服务及系统集成.

1900/1/1 0:00:00
NFT:NFT能让摄影记者实现财富自由吗?_区块链NFT价格

美联社“市集”出售的NFT作品《尘》2004年4月30日,阿富汗喀布尔,一阵风吹过,卷起了尘土和阿富汗女人的头巾。该幅作品签名版售价0.22100以太币.

1900/1/1 0:00:00
MMT:邵宇、陈达飞丨现代货币理论(MMT):批判、吸收与实践_MMT币是什么币GDP币

本文即将发表在《经济学》 文|邵宇陈达飞 摘要:2020年初,受新冠肺炎疫情的冲击,西方国家纷纷采取了财政、货币双宽松的政策,这被认为是现代货币理论“财政赤字货币化”的实践.

1900/1/1 0:00:00
比特币:电子货币具有哪些职能,应该如何分类?_比特币最新价格行情走势莱特币官网查询

电子货币作为货币,其职能是与传统货币没有区别的。 价值尺度职能 实物货币比如黄金是以黄金自身拥有的商品价值为基础,来发挥价值尺度职能,信用货币比如纸币,是凭借着国家信用,以政府发行并且标记了金额.

1900/1/1 0:00:00
INT:带你全方位了解英国留学,学制、费用、留学条件全解析!_INTO价格

英国作为最热门的留学国家之一,其凭借着高质量的教育和良好的口碑,成为了很多来自世界各地优秀人才留学的首选地.

1900/1/1 0:00:00