Teng's blog Teng's blog
首页
Java
H5前端
GitHub (opens new window)
首页
Java
H5前端
GitHub (opens new window)
  • 认知

  • 入门

  • 环境

  • 进阶

  • 框架集成

  • 优化

  • 面试题

    • 为什么使用Elasticsearch
    • ES中master的选举流程
    • ES中的脑裂问题
    • ES索引文档的流程
    • ES更新和删除文档的流程
    • ES搜索的流程
    • Linux部署ES优化点
    • 关于GC需要注意的点
    • 大数据量聚合实现
      • Elasticsearch 对于大数据量(上亿量级)的聚合如何实现
    • 并发下保证读写一致
    • 关于字典树
    • 关于倒排索引
    • ES基本组成
  • Database-Elasticsearch
  • 面试题
Shetengteng
2022-02-05

大数据量聚合实现

# Elasticsearch 对于大数据量(上亿量级)的聚合如何实现

Elasticsearch 提供的首个近似聚合是 cardinality 度量

  • 它提供一个字段的基数,即该字段的 distinct或者 unique 值的数目
  • 它是基于 HLL 算法的
    • HLL 会先对输入作哈希运算,然后根据哈希运算的结果中的 bits 做概率估算从而得到基数
    • 特点
      • 可配置的精度,用来控制内存的使用(更精确 = 更多内存)
      • 小的数据集精度是非常高
    • 可以通过配置参数,来设置去重需要的固定内存使用量。无论数千还是数十亿的唯一值,内存使用量只与配置的精确度相关
Last Updated: 2022/02/05, 15:58:51
关于GC需要注意的点
并发下保证读写一致

← 关于GC需要注意的点 并发下保证读写一致→

Theme by Vdoing | Copyright © 2021-2022 Shetengteng | MIT License
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式