分类：千万级数据处理

2021
08-08

MySQL单表千万级数据处理的思路分享

目录项目背景改进思路观察数据特征多进程处理思路总结数据处理技巧项目背景在处理过程中，今天上午需要更新A字段，下午爬虫组完成了规格书或图片的爬取又需要更新图片和规格书字段，由于单表千万级深度翻页会导致处理速度越来越慢。selecta,b,cfromdb.tblimit10000offset9000000但是时间是有限的，是否有更好的方法去解决这种问题呢？改进思路是否有可以不需要深度翻页也可以进行数据更新的凭据？是的，利用自增id列观察数... 继续阅读 >