mysql数据量大怎么处理 写入mysql数据库的数据量很大,数据库架构该怎么去设计?
写入mysql数据库的数据量很大,数据库架构该怎么去设计?
对于这种大数据系统,业界有很多成熟的解决方案
最简单的解决方案就是将读写操作分开。写操作只写在主数据库中,配置自动同步到从数据库。将部分读操作改为从操作,以减轻主数据库的压力。
您还可以向应用程序添加redis缓存。查询时,可以先读取缓存,如果无法读取,则可以读取数据库。
如果是这种情况,压力仍然过高,所以我们应该考虑子表。
有许多方法可以将热数据分离到表中,将非热数据分离到表中。或者根据用户ID的结束号进行散列,并在不同的表中分布不同的表。
如果读写要求已超过单机支持能力,则需要考虑集群。你可以用MYCAT搜索如何建立一个数据库集群
在正常配置下,MySQL只能承载2000万个数据(读写同时进行,表中有大的文本字段,一台服务器)。现在已经超过1亿,而且还在增加,建议按以下方式处理:
1子表。它可以按时间或一定的规则进行拆分,以便尽可能地查询子表中的数据库。这是最有效的方法。特别是写,放入一个新表,并定期同步。如果记录不断更新,最好将写入的数据放在redis中,并定期同步表3的大文本字段,将它们分隔成一个新的独立表。对于较大的文本字段,可以使用NoSQL数据库
4优化体系结构,或者优化SQL查询,避免联合表查询,尽量不要使用count(*)、in、recursion等性能消耗语句
5使用内存缓存,或者在前端读取时增加缓存数据库。重复读取时,直接从缓存中读取。
以上是一种低成本的管理方法,基本上几个服务器就可以做到,但是管理起来有点麻烦。
当然,如果总体数据量特别大,并且您不关心投资成本,请使用集群或tidb
mysql数据量大怎么处理 mysql最大支持多少数据 大数据处理mysql多少核
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。