2023-11-21
Flink-FastSteps概念:
https://mp.weixin.qq.com/s/oBmRhRA-52CLRLXp6sZwEw
https://matt33.com/2019/11/23/flink-learn-start-1/
一、应用场景:1、Data Pipeline实时数仓2、Data Analytics实时大屏实时报表3、Data Driven风控系统
二、windows&watermark12345678910//开窗测试 指定窗口分配器DataStream<Integer> resultStream = dataStream.keyBy("...
阅读全文
2023-11-21
Flink-RunTime架构这三个组件都包含在 AppMaster 进程中
Dispatcher: 负责接收用户提供的作业,并且负责为这个新提交的作业拉起一个新的 JobManager 服务。
ResourceManager: 负责资源的管理,在整个 Flink 集群中只有一个 ResourceManager,资源相关的内容都由这个服务负责。
JobManager: 负责管理具体某个作业的执行,在一个 Flink 集群中可能有多个作业同时执行,每个作业都会有自己的 JobManager 服务。
启动流程当用户开始提交一个作业,首先会将用户编写的代码转化为一个 JobGraph。在这个过程...
阅读全文
2023-11-21
Flink-YarnK8s
阅读全文
2023-01-11
SimplifyProject
描述
示范
REST请求处理层命名
XxxController
post body请求参数对象命名
XxxRequest
数据传输层对象命名
XxxDTO
数据库实体名称(对应表字段)
XxxDO|XxxPO |XxxEntity
ES实体对象命名
XxxIndexDO
mongo实体命名
XxxDoc
dao层命名
XxxMapper|XxxRepository
service接口命名
XxxService
service接口实现命名
XxxServiceImpl
service引入多个manager进行组合业务处...
阅读全文
2022-01-11
JsonMsgPackmaven
1234567891011<dependency> <groupId>com.fasterxml.jackson.core</groupId> <artifactId>jackson-databind</artifactId> <version>2.9.6</version></dependency><dependency> <groupId>org.msgpack</groupId> <art...
阅读全文
2022-01-11
Bash1 编程风格::tada:Bash是个灵活度很高的脚本语言,好的编码风格阅读起来事半功倍。:tada:
::: tip1、缩进用四个空格。 不要用制表符
2、代码超过30行都要放在函数中,并且由main函数启动。 不要写流水账
3、变量要注意作用域readonly和local按照需求声明好。 不要随意使用全局变量
4、函数要function check_disk()的方式声明。 不要用check_disk()的方式
5、逻辑判断用if [[ ${json} != “fun” ]]。 不要用test、[]的方式
6、if|while|for 循环分支逻辑在本行使用; then|...
阅读全文
2022-01-11
Java8一、四大函数式接口1、Function 函数式接口123456789101112131415package main;import java.sql.SQLOutput;import java.util.function.Function;public class FunctionDemo { public static void main(String[] args) {// Function<String,String> function = new Function<String, String>() {...
阅读全文
2022-01-11
REST-API1 API设计指南
API 返回的数据格式,不应该是纯文本而是一个 JSON 对象
发生错误时,不要返回 200 状态码
业务异常http状态码需要定义为 402
12345GET:读取(Read)POST:新建(Create)PUT:更新(Update)PATCH:更新(Update),通常是部分更新DELETE:删除(Delete)
状态码:
123451xx:相关信息2xx:操作成功3xx:重定向4xx:客户端错误5xx:服务器错误
2 状态码4XX
4xx状态码表示客户端错误,主要有下面几种。
400 Bad Request:服务器不理解客户端的请求,未做任何处理。...
阅读全文