基于Kafka Connect的数据双向复制组件及方法
申请号:CN202510496279
申请日期:2025-04-21
公开号:CN120470056A
公开日期:2025-08-12
类型:发明专利
摘要
本发明公开了基于Kafka Connect的数据双向复制组件及方法,属于数据传输技术领域,要解决的技术问题为:如何实现Kafka与KaiwuDB之间高效双向数据复制。KaiwuDB Source Connector插件用于对读取的数据进行处理转换,并将处理转换后的数据推送至kafka的指定Topic中;KaiwuDB Sink Connector插件用于监听kafka中指定Topic的数据,根据用户在配置文件中指定的数据协议格式要求对数据进行解析,并处理KaiwuDB支持的语法,通过执行写入命令、批量实时的将数据写入KaiwuDB中。
技术关键词
插件
格式
协议
支持断点续传
批量
数据传输技术
命令
逻辑
数据复制
语句
策略
机制
算法