博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Criteo使用Cassandra存储后端实现Graphite的规模化
阅读量:5902 次
发布时间:2019-06-19

本文共 1275 字,大约阅读时间需要 4 分钟。

\

看新闻很累?看技术新闻更累?试试,每天上下班路上听新闻,有趣还有料!

\
\\

公司SRE团队的一位成员在上个月召开的FOSDEM大会上做了,介绍了他们如何使用Cassandra作为存储后端实现Graphite产品的规模化安装。为实现容错和弹性扩展,Criteo工程团队编写了一个称为“”的Graphite用户化插件,替代了Cassandra默认使用的WhisperDB。

\\

Criteo需要解决容错和弹性扩展问题,这是已被分布式数据库解决的问题。Criteo团队决定使用Graphite的插件架构,编写支持使用为存储后端的定制插件。该插件作为“”项目开源。项目在设计中考虑了支持多种后端,但是目前只提供对Cassandra的支持。

\\

Whisper是Graphite推出的默认数据库,它采用固定大小的文件存储数据。文件的大小固定,因为Graphite在存储数据时指定了一个预先配置的保留期限,通常更旧的数据以更低的采集频率存储。Criteo的度量采集横跨,每秒写入80万个数据点。团队维护了两千多个仪表盘,以及一千多种报警,每隔五分钟做一次度量评估。Graphite的默认配置(包括存储后端)并不能满足这样配置的需求。据报告介绍,除了“”模型存在大量浪费的问题之外,Graphite的并非十分稳健,也不是“真正可弹性扩展的”。此外,Whisper中操作数据模型所用的命令行工具运行速度慢,性能脆弱。

\\

\\

图片来源:

\\

在BigGraphite架构中,有一个Carbon中继,它将来自于数据中心的事件发送给写入Cassandra的Carbon缓存过程。Carbon中继也实现复制功能,并通过将数据推送给多个Carbon缓存过程实现分片功能,度量数据由Carbon缓存过程写入到磁盘。转移到BigGraphite架构还包括改为使用Graphite Web UI。

\\

演讲中还介绍了Cassandra的时序模式,但是并未详细介绍如何存储或查询给定度量的标签。中的每行数据都包括度量名称和开始时间戳,并以此作为主键,列键使用与开始时间戳的偏移量。Graphite根据数据所处的保留阶段存储度量数据,例如,为期七天并且每分钟采集一次的数据、为期六个月并且每天采集一次的数据,诸如此类。更早期的度量数据使用聚合函数计算,这反映在Criteo团队对Cassandra表的设计中。对于一个给定的度量,实现有多个表,其中每个表用于一个给定的保留阶段,即对于一个给定的时期,应存储何种采集频率的数据点。

\\

除了Cassandra之外,团队还测评了多种时序数据存储,包括、、和。Criteo团队并未采用OpenTSDB,因为OpenTSDB采用HBase为后端,但是团队已经为其它用途使用了HBase集群,难以在该集群之外再建立一个HBase集群。其它选项在完成测评时尚未具备部分所需的特性,因此同样未得到采用。

\\

当前Criteo的Cassandra集群运行有20个节点。团队正致力于引入,并构建各个系统间的。

\\

查看英文原文:

转载地址:http://sdupx.baihongyu.com/

你可能感兴趣的文章
[算法]基于分区最近点算法的二维平面
查看>>
webpack多页应用架构系列(七):开发环境、生产环境傻傻分不清楚?
查看>>
笨办法学C 练习1:启用编译器
查看>>
树的总结--树的性质(树的深度) leetcode
查看>>
nagios短信报警(飞信fetion20080522004-linrh4)
查看>>
【Android游戏开发之六】在SurfaceView中添加组件!!!!并且相互交互数据!!!!...
查看>>
linux 将大文件分成小文件
查看>>
CCNA- 距离矢量路由协议学习
查看>>
企业实践用户邮箱导入/导出(第2部分)
查看>>
如何学习Linux命令-初级篇
查看>>
从Oracle Public Yum为Oracle Linux建立本地的Yum源
查看>>
静态路由和默认路由
查看>>
关于阿里开发者招聘节 |这5道笔试真题 你会吗!???
查看>>
C#的异常处理机制
查看>>
vsftp:500 OOPS: could not bind listening IPv4 sock
查看>>
Linux安装BTCPayServer并设置比特币BTC和Lightning支付网关
查看>>
mysql安装,远程连接,以及修改密码
查看>>
Mybatis查询返回Map类型数据
查看>>
java的深拷贝与浅拷贝
查看>>
程序员如何提高工作效率
查看>>