Flink共0篇 第2页
Flink
Flink SQL流处理中的表-五八三

Flink SQL流处理中的表

Table API 和 SQL 是最上层的API,在Flink中这两种API被集成在一起,SQL执行的对象也是Flink中的表(Table),所以我们一般会认为它们是一体的。Flink是批流统一的处理框架,无论是批处理(Data...
admin的头像-五八三admin2年前
0120
Flink FullGC 优化(jdk8)-五八三

Flink FullGC 优化(jdk8)

优化办法 降低频率: 提高Young区的占比(占60%)、合理的Eden:From:To比例,保证对象被晋升老年代前回收掉。 env.java.opts.taskmanager: -XX:-UseAdaptiveSizePolicy -Xmn15000m 缩短时间: ...
admin的头像-五八三admin2年前
0450
美团买菜基于 Flink 的实时数仓建设-五八三

美团买菜基于 Flink 的实时数仓建设

摘要:本文整理自美团买菜实时数仓技术负责人严书,在 Flink Forward Asia 2022 实时湖仓专场的分享。本篇内容主要分为四个部分: 背景介绍 技术愿景和架构设计 典型场景、挑战与应对 未来规划 ...
admin的头像-五八三admin2年前
090
Doris写入数据异常提示actual column number in csv file is less than schema column number-五八三

Doris写入数据异常提示actual column number in csv file is less than schema column number

版本信息: Flink 1.17.1 Doris 1.2.3 Flink Doris Connector 1.4.0 写入方式 采用 String 数据流,依照社区网站的样例代码,在sink之前将数据转换为DataStream,分隔符采用'\t'。 运行异常 通...
admin的头像-五八三admin2年前
01660
10分钟入门Flink--安装-五八三

10分钟入门Flink–安装

本文介绍Flink的安装步骤,主要是Flink的独立部署模式,它不依赖其他平台。文中内容分为4块:前置准备、Flink本地模式搭建、Flink Standalone搭建、Flink Standalong HA搭建。 演示使用的Flink...
admin的头像-五八三admin2年前
0130
【Apache-Flink零基础入门】「入门到精通系列」手把手+零基础带你玩转大数据流式处理引擎Flink(事件与时间维度分析)-五八三

【Apache-Flink零基础入门】「入门到精通系列」手把手+零基础带你玩转大数据流式处理引擎Flink(事件与时间维度分析)

总体内容 本文主要针对于Flink技术架构中的【事件与时间维度分析】的要点处理模式,包含:不同时间种类、Event-Time的处理、Watermarks水印以及状态保存和迁移。 不同时间种类 在Flink及其他流...
admin的头像-五八三admin2年前
080
联通 Flink 实时计算平台化运维实践-五八三

联通 Flink 实时计算平台化运维实践

摘要:本文整理自联通数科实时计算团队负责人、Apache StreamPark Committer 穆纯进在 Flink Forward Asia 2022 平台建设专场的分享,本篇内容主要分为四个部分: 实时计算平台背景介绍 Flink ...
admin的头像-五八三admin2年前
0160
微信安全基于 Flink 实时特征开发平台实践-五八三

微信安全基于 Flink 实时特征开发平台实践

摘要:本文整理自腾讯专家级工程师李天旺,在 Flink Forward Asia 2022 AI 特征工程专场的分享。本篇内容主要分为四个部分: 背景介绍 平台架构的实践 线上运营的挑战 质量保障 点击查看原文视...
admin的头像-五八三admin2年前
0240
Flink 转换算子(转算数据)-五八三

Flink 转换算子(转算数据)

摘要:本文主要描述flink在接收到上游数据后,使用转换算子,可以如何进行数据转换,得到我们想要的数据,章节主要分为基本转换算子、聚合算子、用户自定义函数、物理分区算子、分流、合流。 基...
admin的头像-五八三admin2年前
040
Flink 在新能源场站运维的应用-五八三

Flink 在新能源场站运维的应用

摘要:本文整理自中南电力设计院工程师、注册测绘师姚远,在 Flink Forward Asia 2022 行业案例专场的分享。本篇内容主要分为四个部分: 建设背景 技术架构 应用落地 后续及其他 点击查看原文视...
admin的头像-五八三admin2年前
0130
Flink集群元空间内存溢出报错处理 java.lang.OutOfMemoryError: Metaspace-五八三

Flink集群元空间内存溢出报错处理 java.lang.OutOfMemoryError: Metaspace

Flink集群元空间内存溢出报错处理 java.lang.OutOfMemoryError: Metaspace 一、环境以及背景故事说明 Flink standalone 分布式集群 Version: 1.13.1 在某天平淡的工作中发现flink集群的其中一个...
admin的头像-五八三admin2年前
070
当流计算邂逅数据湖:Paimon 的前生今世-五八三

当流计算邂逅数据湖:Paimon 的前生今世

序言 笔者从事流计算多年,真名叫李劲松,简写 LJS,Apache ID 也是 lzljs (泸州李劲松),而流计算简写也是 LJS,算是一种缘分吧。 一直在分布式计算与存储的领域工作,也参与了多个开源项目,...
admin的头像-五八三admin2年前
0100
Flink 流批一体在 Shopee 的大规模实践-五八三

Flink 流批一体在 Shopee 的大规模实践

摘要:本文整理自 Shopee 研发专家李明昆,在 Flink Forward Asia 2022 流批一体专场的分享。本篇内容主要分为四个部分: 流批一体在 Shopee 的应用场景 批处理能力的生产优化 与离线生态的完全...
admin的头像-五八三admin2年前
090
【Flink】详解Flink任务提交流程-五八三

【Flink】详解Flink任务提交流程

前言 大家好,我们的gzh是朝阳三只大明白,满满全是干货,分享近期的学习知识以及个人总结(包括读研和IT),跪求一波关注,希望和大家一起努力、进步!! 启动一个任务 通常我们会使用 bin/fli...
admin的头像-五八三admin2年前
0370

Flink 源算子(数据源)

摘要:本文主要介绍flink源算子,为flink提供数据;介绍了他们如何使用。 什么是源算子 Flink 可以从各种来源获取数据,然后构建 DataStream 进行转换处理。一般将数据的输入来源称为数据源 (da...
admin的头像-五八三admin2年前
0100
基于 Flink & Paimon 实现 Streaming Warehouse 数据一致性管理-五八三

基于 Flink & Paimon 实现 Streaming Warehouse 数据一致性管理

摘要:本文整理自字节跳动基础架构工程师李明,在 Apache Paimon Meetup 的分享。本篇内容主要分为四个部分: 背景 方案设计 当前进展 未来规划 点击查看原文视频 & 演讲PPT 一、背景 ​ 早...
admin的头像-五八三admin2年前
0410
中原银行 OLAP 架构实时化演进-五八三

中原银行 OLAP 架构实时化演进

摘要:本文整理自中原银行数据信息部杜威科,在 Flink Forward Asia 2022 行业案例专场的分享。本篇内容主要分为四个部分: OLAP 实时化建设背景 OLAP 全链路实时化 OLAP 实时化探索 未来探索方...
admin的头像-五八三admin2年前
0120
Flink 遇见 Apache Celeborn:统一的数据 Shuffle 服务-五八三

Flink 遇见 Apache Celeborn:统一的数据 Shuffle 服务

作者| 熊佳树( 履霜) 我们非常高兴的宣布 Apache Celeborn(Inclubating)[1] 正式支持 Flink,Celeborn 于去年 12 月份正式进入 Apache 软件基金会 (ASF) 的孵化器,一直致力打造统一的中间...
admin的头像-五八三admin2年前
0200