如何在三分钟内跑完千万测试 case & 硬核 Paper Reading | Meetup 回顾
在上周六的北京 Infra Meetup 上,我司 SRE 工程师殷成文、TiDB 开发工程师谢海滨带来了两场精彩的分享。以下是视频&文字回顾,enjoy~
谈谈 TiDB 背后的效率工程:
如何在三分钟内跑完千万测试 case
<iframe class="video_iframe" data-vidtype="1" data-cover="http%3A%2F%2Fshp.qpic.cn%2Fqqvideo_ori%2F0%2Fl08148baj8l_496_280%2F0" allowfullscreen="" frameborder="0" data-ratio="1.7777777777777777" data-w="864" data-src="http://v.qq.com/iframe/player.html?vid=l08148baj8l&width=351&height=197.4375&auto=0" width="351" height="198" data-vh="197.4375" data-vw="351" style="display: none; width: 351px !important; height: 198px !important;"></iframe>
殷成文老师首先介绍了我们在保证 TiDB 正确性以及稳定性上做的一些事情,以及目前遇到的效率的问题, 然后逐个分析目前 CI 慢的原因以及分享我们是如何去解决这些问题的,并介绍了在优化过程中遇到一些坑。
流程上我们结合已有的基础架构选择了Jenkins with Kubernetes 的方式来解决之前出现的资源调度以及并发上的问题。殷成文老师分享了在使用的过程中遇到的一些坑,以及我们在网络结构上做的调整,提高与 github 交互的速度和稳定性。此外,我们为了减少网络 io 做的两层 cache,减少重复的下载上传操作。最后介绍了我们如何去优化具体 case 以及在优化 TiDB unit test 上用了哪些黑魔法。
Paper Reading
<iframe class="video_iframe" data-vidtype="1" data-cover="http%3A%2F%2Fshp.qpic.cn%2Fqqvideo_ori%2F0%2Fy08142jquxz_496_280%2F0" allowfullscreen="" frameborder="0" data-ratio="1.7777777777777777" data-w="864" data-src="http://v.qq.com/iframe/player.html?vid=y08142jquxz&width=351&height=197.4375&auto=0" width="351" height="198" data-vh="197.4375" data-vw="351" style="display: none; width: 351px !important; height: 198px !important;"></iframe>
论文《Robust Query Optimization Methods With Respect to Estimation Errors: A Survey》链接:
https://hal.archives-ouvertes.fr/hal-01316823/document
此次分享谢海滨老师首先介绍了查询优化的相关背景知识,并简单的分析了估算查询代价不准的几个原因。接下来,该分享介绍了三种在查询误差存在情况下的优化方法:
在执行结束后,我们可以根据查询时得到的真实信息去更新统计信息,以减少之后查询的估算误差。
在执行过程中,可以物化中间结果,并根据真实的信息重新优化执行计划;或者对于某些查询计划,可以直接调整而不会丢失中间结果。
在执行开始前,通过考虑估算结果的概率分布,或者执行计划的对估算误差的敏感度,选择更健壮的执行计划。
* 后台回复"84"获取本期 PPT
PingCAP Infra Meetup
作为一个基础架构领域的前沿技术公司,PingCAP 希望能为国内真正关注技术本身的 Hackers 打造一个自由分享的平台。自 2016 年 3 月 5 日开始,我们定期在周末举办 Infra Meetup,与大家深度探讨基础架构领域的前瞻性技术思考与经验,目前已在北京、上海、广州、成都、杭州等地举办。在这里,我们希望提供一个高水准的前沿技术讨论空间,让大家真正感受到自由的开源精神魅力。
关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/
随时掌握互联网精彩
- 1 守护好中华民族的文化瑰宝 7926897
- 2 梅大高速塌方致52死 调查报告发布 7953805
- 3 外交部回应特朗普征收25%关税 7847110
- 4 从年货购物车里解码消费新动向 7793039
- 5 江西“最强钉子户”:后悔没答应拆迁 7697197
- 6 向太给人取名主打一个简单 7522936
- 7 警犬因“班味过重”惨遭没收年终奖 7433456
- 8 砂糖橘吃多了真的会变小黄人 7300846
- 9 卖猪商户切肉时发现猪被打针 7260438
- 10 韩国网友抵制宋慧乔新片 7197427