Flink 实用教程:入门 9-Jar 作业开发

发布于:2024-10-24 编辑:匿名 来源:网络

流计算 Oceanus 简介 流计算 Oceanus 是大数据产品生态的实时分析工具。基于Apache Flink构建,一站式开发、无缝连接、亚秒级延迟。

企业级实时大数据分析平台,具有实时、低成本、安全稳定等特点。流计算Oceanus旨在最大化企业数据的价值,加速企业实时数字化的建设进程。

Flink Jar 作业同时支持 DataStream API 编程和 Table API/SQL 编程。 Table API 和 SQL 也可以轻松集成并嵌入到 DataStream 程序中。

请参考《与DataStream API集成****1》章节了解如何集成DataStream与Table的相互转换。流计算 Oceanus 支持 Flink Jar 作业和 Flink SQL 作业。

本文将详细介绍如何使用Flink DataStream API开发Jar作业并在流计算Oceanus平台上运行。 Flink实战教程:入门9-Jar作业开发准备创建流计算Oceanus集群 在流计算Oceanus产品活动页面1元购买Oceanus集群。

进入Oceanus控制台2,点击左侧【集群管理】,点击左上方【创建集群】。具体可以参考Oceanus官方文档创建独占集群 3.创建消息队列CKafka。

进入CKafka控制台4,点击左上角【新建】,完成CKafka的创建。具体请参见CKafka创建实例 5. 创建Topic:进入CKafka实例,点击【主题管理】>【新建】,完成Topic的创建。

具体请参见CKafka创建主题 6. 开发DataStream作业 1. 新建一个Maven项目。在本地IDEA中新建一个Maven Project,并配置pom.xml文件。

配置pom.xml文件时需要设置主类,否则包上传到Oceanus/Flink集群时找不到主类。pom.xml文件内容如下: 代码语言:txt copy 生产者 = new FlinkKafkaProducer(outTopic, new SimpleStringSchema(), sinkProps ); ds.addSink(生产者); // ds.print(); // 5. 执行程序 sEnv.execute("helloworld");打包Jar包可以使用IDEA自带的打包工具Build Artifacts或者命令行进行打包。命令行打包命令:代码语言:txt 复制mvn clean package命令行,在项目目标目录下可以找到生成的Jar包。

Jar 名称为 jar_demos-1.0-SNAPSHOT.jar。流计算Oceanus作业 1、上传依赖 在Oceanus控制台,点击左侧【依赖管理】,点击左上角【新建】新建依赖,上传本地Jar包。

2、在Oceanus控制台创建作业,点击左侧【作业管理】,点击左上角【新建】新建作业,作业类型选择Jar作业,点击【开发与调试】即可进入作业编辑页面。 【主包】选择刚刚上传的依赖,选择最新版本。

参考pom.xml文件填写主类,这里填写com.demos.HelloWorld。 3. 运行作业。

单击[发布草稿]运行作业。您可以通过【日志】面板TaskManager或者Flink UI查看运行信息。

总结 DataStream 作业支持各种异构数据源和数据目的地。自定义数据源支持Kafka、MySQL等,使用addSource()函数读取数据;自定义目的地支持Kafka、MySQL等,使用addSink()函数写入数据。

打包时不需要打包flink核心依赖,流计算Oceanus平台已经提供了。

Flink 实用教程:入门 9-Jar 作业开发

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 兴发集团2020年盈利翻倍,预计一季度净利预又增超13倍

    兴发集团2020年盈利翻倍,预计一季度净利预又增超13倍

    兴发集团2020年利润翻倍,一季度净利润预测预计增长13倍以上。 亿元,同比增长0.29%;扣非净利润6.32亿元,同比增长0.84%。

    06-18

  • 武汉首个大型新能源汽车动力电池项目二期已封顶

    武汉首个大型新能源汽车动力电池项目二期已封顶

    长江日报 近日,随着最后一次混凝土浇筑完成,中电武汉基地二期主体结构主体结构顺利封顶。 创新航空动力电池和储能电池已全面封顶。 该建设项目用时不到三个月,实现了从基础施工到主体结构封顶的重大跨越,比原计划提前了半个月。 中国新航空是国内动力电池行业龙头企业之

    06-06

  • 深圳汉德完成超亿元B、B+轮融资

    深圳汉德完成超亿元B、B+轮融资

    据投资界(ID:pedaily)3月1日消息,近日,车载智能称重SaaS服务平台深圳汉德完成融资超亿元B轮及B+轮融资。 本轮融资由经纬中国领投B轮,零一创投、梧桐树资本完成B+轮领投,并得到往届股东锋锐资本、前海母基金、钟鼎资本的全力支持。 深圳汉德将利用本轮融资加强团队建设

    06-17

  • 社区团购平台松鼠拼拼获3000万美元A轮融资,IDG资本、高瓴资本等投资,

    社区团购平台松鼠拼拼获3000万美元A轮融资,IDG资本、高瓴资本等投资,

    据投资界11月19日消息,社区团购平台“松鼠拼拼”近日完成1万美元A轮融资。 本轮投资方包括IDG资本、高瓴资本、MSA、云九等机构,以及美团前COO甘家伟。 此前,松鼠拼品于2020年10月获得天使轮融资,由IDG资本、蝙蝠资本投资; 2020年9月获得Pre-A轮融资,由白城汇金(北京)

    06-17

  • 中小企业数字服务节云路演——沃尔沃汽车“智能制造”专场活动明日开启

    中小企业数字服务节云路演——沃尔沃汽车“智能制造”专场活动明日开启

    中小企业数字服务节云路演——沃尔沃汽车“智能制造”专场活动来了!本次“智能制造”云路演由阿里云创新中心与沃尔沃汽车联合举办。 基于汽车行业多个业务场景的创新需求,评选优秀创新企业,探索机器视觉、5G、大数据等技术在汽车行业的应用。 相关应用程序。 入选企业将有

    06-18

  • 中石油:2020年净利润同比下降近60%,炼油毛利率收窄

    中石油:2020年净利润同比下降近60%,炼油毛利率收窄

    中石油(57.SH)发布年报。 公司实现营业收入8.36亿元,同比下降23.16%,净利润0.2亿元,同比下降58.4%。

    06-17

  • 康复旗下连锁店“Ridge Near Perfect”获数千万元Pre-A轮融资,动力资本投资

    康复旗下连锁店“Ridge Near Perfect”获数千万元Pre-A轮融资,动力资本投资

    据投资界3月19日消息,康复旗下连锁店“Ridge Near Perfect”近日透露,已完成数千万元Pre-A轮融资,投资方为动力资本。    据悉,本轮融资资金将主要用于培训业务的发展和门店连锁扩张。   公开信息显示,赤金完美成立于今年4月。 是一家为颈肩腰腿痛患者提供系统、精准

    06-18

  • 第一批!通义千文通过国家大模型标准评审

    第一批!通义千文通过国家大模型标准评审

    在刚刚结束的国家信息技术标准化技术委员会人工智能分委会全体会议上,传来了很多好消息!我国首次官方“大型车型标准符合性评价”结果揭晓。 阿里云通义千文成为国内首批通过评测的四款大型机型之一,在通用性、智能化等维度均达到国家相关标准。 与此同时,MaaS模式服务相

    06-18

  • 在线学校品牌“小鸭网校”已完成两轮融资,总金额超亿元,

    在线学校品牌“小鸭网校”已完成两轮融资,总金额超亿元,

    据投资界2月18日消息,网校品牌“纸浆网校”已完成合计超亿元A轮和A+轮融资。 据悉,A轮融资由清流资本、藤豆石岛投资基金和真格教育基金投资,A+轮融资则来自伟光创投。 国美在线学校是一个始于华南地区的在线学校品牌。 已完成小初阶段所有学科体系建设,拥有数十万付费用户

    06-18

  • 进军车联网,小米战略投资上海博泰

    进军车联网,小米战略投资上海博泰

    据投资界(微信ID:pedaily)消息,据36氪报道,车联网公司上海博泰获得小米集团B轮战略投资,融资金额及具体持股比例尚未披露。 据了解,博泰将与小米在软件、硬件、语音多场景交互等方面进行全方位合作。 博泰成立于今年10月,总部位于上海。 是国内最早进军车联网的企业之

    06-18

  • DeepWay完成4.6亿元A轮融资,启明创投领投

    DeepWay完成4.6亿元A轮融资,启明创投领投

    投资界(ID:pedaily)消息,近日,智能新能源卡车制造行业新生力量DeepWay宣布完成4.6亿元A轮融资。 本轮融资由启明创投领投,联想创投、光悦投资、建信信托、慕华科创投、中电基金、交银国际、华盖资本跟投,中金公司作为唯一投资方。 在融资资金的支持下,DeepWay将持续推

    06-18

  • Dialog 将 CBRAM 技术授权给格芯的 22FDX 平台,以服务物联网和人工智能应用

    Dialog 将 CBRAM 技术授权给格芯的 22FDX 平台,以服务物联网和人工智能应用

    10 月 20 日,电池和电源管理、Wi-Fi、蓝牙低功耗 (BLE) 和工业边缘计算解决方案的领先提供商 Dialog 和 GLOBALFOUNDRIES?、全球领先的特殊工艺半导体代工厂,联合宣布双方已达成协议,Dialog 将向 GLOBALFOUNDRIES 授权使用导电桥 RAM (CBRAM) 技术。 基于电阻式 RAM (ReRAM

    06-06