兴发集团2020年盈利翻倍,预计一季度净利预又增超13倍
06-18
流计算 Oceanus 简介 流计算 Oceanus 是大数据产品生态的实时分析工具。基于Apache Flink构建,一站式开发、无缝连接、亚秒级延迟。
企业级实时大数据分析平台,具有实时、低成本、安全稳定等特点。流计算Oceanus旨在最大化企业数据的价值,加速企业实时数字化的建设进程。
Flink Jar 作业同时支持 DataStream API 编程和 Table API/SQL 编程。 Table API 和 SQL 也可以轻松集成并嵌入到 DataStream 程序中。
请参考《与DataStream API集成****1》章节了解如何集成DataStream与Table的相互转换。流计算 Oceanus 支持 Flink Jar 作业和 Flink SQL 作业。
本文将详细介绍如何使用Flink DataStream API开发Jar作业并在流计算Oceanus平台上运行。 Flink实战教程:入门9-Jar作业开发准备创建流计算Oceanus集群 在流计算Oceanus产品活动页面1元购买Oceanus集群。
进入Oceanus控制台2,点击左侧【集群管理】,点击左上方【创建集群】。具体可以参考Oceanus官方文档创建独占集群 3.创建消息队列CKafka。
进入CKafka控制台4,点击左上角【新建】,完成CKafka的创建。具体请参见CKafka创建实例 5. 创建Topic:进入CKafka实例,点击【主题管理】>【新建】,完成Topic的创建。
具体请参见CKafka创建主题 6. 开发DataStream作业 1. 新建一个Maven项目。在本地IDEA中新建一个Maven Project,并配置pom.xml文件。
配置pom.xml文件时需要设置主类,否则包上传到Oceanus/Flink集群时找不到主类。pom.xml文件内容如下: 代码语言:txt copy
Jar 名称为 jar_demos-1.0-SNAPSHOT.jar。流计算Oceanus作业 1、上传依赖 在Oceanus控制台,点击左侧【依赖管理】,点击左上角【新建】新建依赖,上传本地Jar包。
2、在Oceanus控制台创建作业,点击左侧【作业管理】,点击左上角【新建】新建作业,作业类型选择Jar作业,点击【开发与调试】即可进入作业编辑页面。 【主包】选择刚刚上传的依赖,选择最新版本。
参考pom.xml文件填写主类,这里填写com.demos.HelloWorld。 3. 运行作业。
单击[发布草稿]运行作业。您可以通过【日志】面板TaskManager或者Flink UI查看运行信息。
总结 DataStream 作业支持各种异构数据源和数据目的地。自定义数据源支持Kafka、MySQL等,使用addSource()函数读取数据;自定义目的地支持Kafka、MySQL等,使用addSink()函数写入数据。
打包时不需要打包flink核心依赖,流计算Oceanus平台已经提供了。
版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。
标签:
相关文章
06-06
06-17
06-18
06-18
最新文章
【玩转GPU】ControlNet初学者生存指南
【实战】获取小程序中用户的城市信息(附源码)
包雪雪简单介绍Vue.js:开学
Go进阶:使用Gin框架简单实现服务端渲染
线程池介绍及实际案例分享
JMeter 注释 18 - JMeter 常用配置组件介绍
基于Sentry的大数据权限解决方案
【云+社区年度征文集】GPE监控介绍及使用