云计算开发之CoT：云环境的去中心化分布式弹性缓存方案

2） 在数据更新的情况下，当需要数据一致性时，增加前端缓存大小会显著增加数据一致性管理技术的成本。请注意，社交网络和现代web应用程序运行在成千上万的前端服务器上。增加前端缓存大小不仅会使部署更大缓存的成本乘以前端服务器的数量，但也增加了一致性管理管道中的一些成本，包括a）跟踪不同前端服务器中的密钥体现的成本，b）将更新传播到前端服务器的网络和处理成本。3） 由于工作负载是倾斜的，我们的经验清楚地表明，添加更多前端缓存线的相对成本（以每个缓存线的平均缓存命中率和后端负载不平衡减少来衡量）随着前端缓存大小的增加而急剧减少。

CoT的调整大小算法根据动态工作负载的变化动态地增加或减少前端分配的内存。CoT的动态调整大小算法在不同的云设置中很有价值

1） 所有前端服务器部署在同一个数据中心，并获得相同的动态演进工作负载分布；2）所有前端服务器部署在同一个数据中心，但获得不同的动态演进工作负载分布，
最终3）前端服务器部署在不同的边缘数据中心，并获得不同的动态变化的工作负载分布。特别是，CoT旨在从每个单独的前端服务器的角度捕捉本地趋势。在社交网络应用程序中，服务于不同地理区域的前端服务器可能会经历不同的密钥访问分布和不同的本地趋势（例如，迈阿密与纽约）。类似地，在大型数据处理管道中，几个应用程序部署在共享缓存层的顶部。每个应用程序可能对不同的数据分区感兴趣，因此体验不同的密钥访问分布和本地趋势。CoT在前端服务器上运行的是细粒度密钥级别，而Slicer[9]这样的解决方案在缓存服务器上运行的是较粗的细粒度切片或碎片。服务器端解决方案是对CoT的补充。虽然捕获本地趋势可以减轻缓存服务器之间的负载并减少负载不平衡，但其他因素可能会导致负载不平衡，因此使用服务器端负载平衡（例如切片器）可能仍然是有益的。

我们在本文中的贡献总结如下。

•缓存在轨（CoT）是一种分散的、有弹性的，

以及预测性的前端缓存框架

减少后端负载不平衡并改进

整体表现。

•

CoT动态地最小化所需的前端缓存大小，以实现后端负载平衡。与其他替代政策相比，CoT的内置弹性是一个关键的新优势。

•

广泛的实验研究，将CoT的替代政策与传统的以及最先进的替代政策，即LFU、LRU、ARC和LRU-2进行比较。实验结果表明，与其他替换策略相比，CoT在不同工作负载下实现了服务器大小的负载平衡，前端缓存减少了50%到93.75%。

•实验研究表明

成功地自动配置跟踪程序和缓存

大小以实现后端负载平衡。

•在我们的实验中，我们发现

YCSB的[19]加密工作负载发生器-

阿托尔。这个生成器生成的工作负载

明显没有承诺的那么偏斜

压缩分布。

论文的其余部分安排如下。第二节介绍了系统和数据模型。在第3节中，我们通过介绍在前端使用LRU、LFU、ARC和LRU-k缓存的主要优点和局限性来激励CoT。我们在第四节介绍了婴儿床的细节。第五节对胶辊的性能和运行费用进行了评估，第六节对相关工作进行了讨论，第七节对论文进行了总结。

论文PDF版下载：https://arxiv.org/pdf/2006.08067

（编辑：张家口站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!