基于Kafka Connect的数据双向复制组件及方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于Kafka Connect的数据双向复制组件及方法
申请号:CN202510496279
申请日期:2025-04-21
公开号:CN120470056A
公开日期:2025-08-12
类型:发明专利
摘要
本发明公开了基于Kafka Connect的数据双向复制组件及方法,属于数据传输技术领域,要解决的技术问题为:如何实现Kafka与KaiwuDB之间高效双向数据复制。KaiwuDB Source Connector插件用于对读取的数据进行处理转换,并将处理转换后的数据推送至kafka的指定Topic中;KaiwuDB Sink Connector插件用于监听kafka中指定Topic的数据,根据用户在配置文件中指定的数据协议格式要求对数据进行解析,并处理KaiwuDB支持的语法,通过执行写入命令、批量实时的将数据写入KaiwuDB中。
技术关键词
插件 格式 协议 支持断点续传 批量 数据传输技术 命令 逻辑 数据复制 语句 策略 机制 算法