技术解析

Clickhouse,你们是怎样防止重复插入数据的呢
0
2021-06-03 21:14:08
idczone
抗投诉服务器

怎样防止一条 id 相同的数据重复插入进去呢

或者能覆盖旧数据也行


唯一键

查了一下 clickhouse 手册,没有唯一键的语句额,方便说一下吗

Replacemergingtree

不好意思,我不知道 clickhouse 是 olap 的数据库,我当成了一个应用。
看看看这里吧
https://github.com/ClickHouse/ClickHouse/issues/3386

replace merging tree 会把 order by 的键作为唯一键,异步把相同唯一键的数据合并

club house 一眼看成这个

ReplacingMergeTree,原理就是 merge 的时候会把 order by 键相同的数据覆盖掉,https://clickhouse.tech/docs/en/engines/table-engines/mergetree-family/replacingmergetree/

上面的 replace merge tree 我觉得都没法达到楼主想要的效果。两个很大的问题:
1. 及时性,经常会出现重复数据。因为是异步更新( final 性能很低)
2. 性能,merge 的性能极低

确实是的,我试了一下 replace merge,延迟更新确实挺难受的

数据地带为您的网站提供全球顶级IDC资源
在线咨询
专属客服