2016 - 2024

感恩一路有你

一秒写入上百万数据到es mysql表数据量太大,达到了1亿多条数据,除了分库分表之外,还有没有其他的解决方式?

浏览量:1321 时间:2021-03-15 08:24:41 作者:admin

mysql表数据量太大,达到了1亿多条数据,除了分库分表之外,还有没有其他的解决方式?

在正常配置下,MySQL只能承载2000万数据(同时读写,表中有大文本字段,单服务器)。现在已经超过1亿,而且还在增加,建议按以下方式处理:

1子表。它可以按时间或一定的规则进行拆分,以便尽可能地查询子表中的数据库。这是最有效的方法。特别是写,放入一个新表,并定期同步。如果记录不断更新,最好将写入的数据放在redis中,并定期同步表3的大文本字段,将它们分隔成一个新的独立表。对于较大的文本字段,可以使用NoSQL数据库

4优化体系结构,或者优化SQL查询,避免联合表查询,尽量不要使用count(*)、in、recursion等性能消耗语句

5使用内存缓存,或者在前端读取时增加缓存数据库。重复读取时,直接从缓存中读取。

以上是一种低成本的管理方法,基本上几个服务器就可以做到,但是管理起来有点麻烦。

当然,如果整体数据量特别大,而且你不在乎成本,可以使用cluster,使用tidb

机器的24 CPU 128G内存,ES和logstash都在同一台机器上,ES和logstash分别分配32和16g的最大堆内存,大约有1800万个日志,所有这些都是默认配置的。日志大约20分钟就写好了。这个速度正常吗?而在写的过程中,CPU几乎是满的,大约每秒写15000次

一秒写入上百万数据到es 几千万数据同步到es es批量导入索引数据

版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。