2016 - 2024

感恩一路有你

mongodb内存爆了 Mongodb存储用户历史数据,时间轴展示,怎么查询效率高?

浏览量:2509 时间:2021-03-10 15:14:55 作者:admin

Mongodb存储用户历史数据,时间轴展示,怎么查询效率高?

您可以考虑使用mongodb的固定集存储,但是不允许修改或删除固定集,并且只能存储您设置大小的数据。有一定的限制,但查询非常快速有序。也可以使用公共集存储,根据时间和用户ID建立复合索引,提高查询效率。对于这样的累积数据,最好有一个分割线存储机制。不常用的数据应该存储在其他表中,经常需要检索的数据应该分开存储,因为不是所有用户每次都需要查询所有数据。欢迎添加更好的方法。

mongodb数据库批量插入海量数据时为什么有少部分数据丢失?

在了解mongodb之后,我觉得它非常好。适用于海量数据的实时插入、更新和查询。支持多条件查询和多维索引。与HBase相比,HBase没有实时插入、更新、查询海量数据的压力,操作效率与数据量无关,即数据量不会影响操作效率,但HBase的实时查询是基于rowkey的查询,由于HBase只能对rowkey进行索引,只能根据rowkey进行查询,无法实现与mongodb相同的多条件查询。小数据的需求对mongodb和HBase没有影响,因为mongodb和HBase都是数据库,主要用来存储零碎的小数据。所以我觉得mongodb如果只用于海量实时的小数据可能会更好,但是如果还需要对数据进行统计分析的话,最好考虑统计分析的因素。如果使用MapReduce进行数据分析,HBase可能会更好,虽然mongodb也支持Mr.

mysql表数据量太大,达到了1亿多条数据,除了分库分表之外,还有没有其他的解决方式?

在正常配置下,MySQL只能承载2000万数据(同时读写,表中有大的文本字段,单服务器)。现在已经超过1亿,而且还在增加,建议按以下方式处理:

1子表。它可以按时间或一定的规则进行拆分,以便尽可能地查询子表中的数据库。这是最有效的方法。特别是写,放入一个新表,并定期同步。如果记录不断更新,最好将写入的数据放在redis中,并定期同步表3的大文本字段,将它们分隔成一个新的独立表。对于较大的文本字段,可以使用NoSQL数据库

4优化体系结构,或者优化SQL查询,避免联合表查询,尽量不要使用count(*)、in、recursion等性能消耗语句

5使用内存缓存,或者在前端读取时增加缓存数据库。重复读取时,直接从缓存中读取。

以上是一种低成本的管理方法,基本上几个服务器就可以做到,但是管理起来有点麻烦。

当然,如果总体数据量特别大,并且您不关心投资成本,请使用集群或tidb

mongodb内存爆了 mongodb内存不释放 mongodb大数据量查询

版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。