大数据量聚合实现
# Elasticsearch 对于大数据量(上亿量级)的聚合如何实现
Elasticsearch 提供的首个近似聚合是 cardinality 度量
- 它提供一个字段的基数,即该字段的 distinct或者 unique 值的数目
- 它是基于 HLL 算法的
- HLL 会先对输入作哈希运算,然后根据哈希运算的结果中的 bits 做概率估算从而得到基数
- 特点
- 可配置的精度,用来控制内存的使用(更精确 = 更多内存)
- 小的数据集精度是非常高
- 可以通过配置参数,来设置去重需要的固定内存使用量。无论数千还是数十亿的唯一值,内存使用量只与配置的精确度相关
Last Updated: 2022/02/05, 15:58:51