[发明专利]一种基于Flink实时计算的自动化流控制方法在审
申请号: | 202011594886.9 | 申请日: | 2020-12-29 |
公开(公告)号: | CN112596997A | 公开(公告)日: | 2021-04-02 |
发明(设计)人: | 陈思恩 | 申请(专利权)人: | 科技谷(厦门)信息技术有限公司 |
主分类号: | G06F11/34 | 分类号: | G06F11/34;G06F16/18 |
代理公司: | 厦门致群财富专利代理事务所(普通合伙) 35224 | 代理人: | 刘兆庆;邓贵琴 |
地址: | 361000 福建省厦*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于Flink实时计算的自动化流控制方法,包括以下步骤:S1、对业务系统的日志数据进行实时采集;S2、利用Kafka队列对采集的日志数据进行传输,其中不同的业务日志数据作为一个单独的topic数据流;S3、使用Flink的各种算子组合对数据流进行实时解析和对数据流解析进行实时控制;S4、将解析出的数据流进行存储。本发明提供一种基于Flink实时计算的自动化流控制方法,利用Flink的并行性和内存效率,以便能够在分布式基础设施上有效地处理大容量数据流,根据不同的需求将解析的数据输出到相应的存储空间,灵活地适配各种日志格式,从而减少同类解析代码的开发,将不同的数据解析进行集中式的管理,有效地提高了现在Flink框架集群的吞吐量。 | ||
搜索关键词: | 一种 基于 flink 实时 计算 自动化 控制 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于科技谷(厦门)信息技术有限公司,未经科技谷(厦门)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011594886.9/,转载请声明来源钻瓜专利网。