MongoDB的磁盘IO问题的解决方法

有点标题党的意思,不过下面三招确实比较实用,内容来自conversocial公司的vp colin howe在london mongodb用户组的一个分享。

申请:下面几点并非放四海皆准的法则,具体是否能够使用,还需要根据自己的应用场景和数据特点来决定。

1.使用组合式的大文档

我们知道MongoDB是一个文档数据库,其每一条记录都是一个JSON格式的文档。比如像下面的例子,每一天会生成一条这样的统计数据:

{ metric: “content_count”, client: 5, value: 51, date: ISODate(“2012-04-01 13:00”) }

{ metric: “content_count”, client: 5, value: 49, date: ISODate(“2012-04-02 13:00”) }

而如果采用组合式大文档的话,就可以这样将一个月的数据全部存到一条记录里:

{ metric: “content_count”, client: 5, month: “2012-04”, 1: 51, 2: 49, … }

通过上面两种方式存储,预先一共存储大约7GB的数据(机器只有1.7GB的内存),测试读取一年信息,这二者的读性能差别很明显:

第一种: 1.6秒

第二种: 0.3秒

那么问题在哪里呢?

实际上原因是组合式的存储在读取数据的时候,可以读取更少的文档数量。而读取文档如果不能完全在内存中的话,其代价主要是被花在磁盘seek上,第一种存储方式在获取一年数据时,需要读取的文档数更多,所以磁盘seek的数量也越多。所以更慢。

实际上MongoDB的知名使用者foursquare就大量采用这种方式来提升读性能。见此

2.采用特殊的索引结构

我们知道,MongoDB和传统数据库一样,都是采用B树作为索引的数据结构。对于树形的索引来说,保存热数据使用到的索引在存储上越集中,索引浪费掉的内存也越小。所以我们对比下面两种索引结构:

db.metrics.ensureIndex({ metric: 1, client: 1, date: 1})

db.metrics.ensureIndex({ date: 1, metric: 1, client: 1 })

采用这两种不同的结构,在插入性能上的差别也很明显。

当采用第一种结构时,数据量在2千万以下时,能够基本保持10k/s 的插入速度,而当数据量再增大,其插入速度就会慢慢降低到2.5k/s,当数据量再增大时,其性能可能会更低。

而采用第二种结构时,插入速度能够基本稳定在10k/s。

其原因是第二种结构将date字段放在了索引的第一位,这样在构建索引时,新数据更新索引时,不是在中间去更新的,只是在索引的尾巴处进行修改。那些插入时间过早的索引在后续的插入操作中几乎不需要进行修改。而第一种情况下,由于date字段不在最前面,所以其索引更新经常是发生在树结构的中间,导致索引结构会经常进行大规模的变化。

AI建筑知识问答 AI建筑知识问答

用人工智能ChatGPT帮你解答所有建筑问题

AI建筑知识问答 22 查看详情 AI建筑知识问答

3.预留空间

与第1点相同,这一点同样是考虑到传统机械硬盘的主要操作时间是花在磁盘seek操作上。

比如还是拿第1点中的例子来说,我们在插入数据的时候,预先将这一年的数据需要的空间都一次性插入。这能保证我们这一年12个月的数据是在一条记录中,是顺序存储在磁盘上的,那么在读取的时候,我们可能只需要一次对磁盘的顺序读操作就能够读到一年的数据,相比前面的12次读取来说,磁盘seek也只有一次。

db.metrics.insert([

    { metric: ‘content_count’, client: 3, date: ‘2012-01’, 0: 0, 1: 0, 2: 0, … }

    { ……………………………., date: ‘2012-02’, … })

    { ……………………………., date: ‘2012-03’, … })

    { ……………………………., date: ‘2012-04’, … })

    { ……………………………., date: ‘2012-05’, … })

    { ……………………………., date: ‘2012-06’, … })

    { ……………………………., date: ‘2012-07’, … })

    { ……………………………., date: ‘2012-08’, … })

    { ……………………………., date: ‘2012-09’, … })

    { ……………………………., date: ‘2012-10’, … })

    { ……………………………., date: ‘2012-11’, … })

    { ……………………………., date: ‘2012-12’, … })

])

结果:

如果不采用预留空间的方式,读取一年的记录需要62ms

如果采用预留空间的方式,读取一年的记录只需要6.6ms

以上就是MongoDB的磁盘IO问题的解决方法的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/558474.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
printf在java中的作用
上一篇 2025年11月9日 23:45:35
PHP中如何使用对象-关系映射(ORM)简化数据库操作?
下一篇 2025年11月9日 23:45:40

相关推荐

  • Spring Boot集成MongoDB Atlas:正确配置与故障排除

    本教程详细指导如何在Spring Boot应用中正确配置与连接MongoDB Atlas集群。我们将重点讲解如何获取并使用正确的Atlas连接URI,安全地处理用户认证信息,以及准确指定目标数据库。通过实例代码和常见错误排查,帮助开发者避免连接失败,确保应用与MongoDB Atlas的顺畅集成。 …

    2026年9月22日
    600
  • win10无法弹出U盘怎么办_win10U盘无法弹出解决方法

    若U盘无法安全移除,首先关闭相关程序,检查任务管理器结束占用进程,清空剪贴板,重启Windows资源管理器,使用handle.exe命令行工具查找并终止占用进程,最后可修改U盘策略为快速删除模式以避免后续问题。 如果您尝试从Windows 10系统中安全移除U盘,但系统提示“设备正在使用”或无法完成…

    2026年9月22日
    100
  • 腾讯推出景点预约风控反黄牛解决方案 解决 90% 文旅恶意流量

    8 月 22 日,腾讯最近公布了一项针对热门景点公众号预约难、抢票难问题的 ” 风控反黄牛解决方案 “。这项技术主要针对的是景区和博物馆的票务系统,旨在解决由黄牛党造成的恶意流量问题。据了解,这项技术能够帮助博物馆、博物院、公园、景区等解决 90% 的恶意流量问题。在没有接入…

    2026年9月20日
    100
  • 为什么VSCode的扩展视图是空的?

    扩展视图为空主因是网络或设置问题;2. 需确认网络可访问市场并检查代理设置;3. 可尝试重启VSCode或刷新窗口;4. 检查是否启用推荐模式或离线限制;5. 缓存损坏时需删除本地缓存目录后重启。 VSCode 扩展视图为空,通常是因为扩展市场连接失败、网络问题或设置错误导致的。下面是一些常见原因和…

    2026年9月12日
    200
  • 为什么VSCode的调试控制台没有输出?

    首先确认程序是否执行到输出语句,再检查launch.json配置中console设置是否为integratedTerminal或codeDebugConsole,并确保输出位置正确,多数问题由此解决。 VSCode 调试控制台没有输出,通常是因为程序未正确运行、输出被重定向,或调试配置有误。下面是一…

    2026年9月11日
    300
  • Laravel自定义用户提供者?用户提供者怎样实现?

    自定义用户提供者可集成非Eloquent模型与多种数据源,如NoSQL、API、LDAP或文件,通过实现UserProvider和Authenticatable接口,灵活处理用户检索与密码验证,解决认证问题需确保接口方法正确实现并合理配置。 自定义 Laravel 用户提供者允许你使用非 Eloqu…

    2026年9月11日
    100
  • 数据量大的App制作,数据库如何选型?

    在开发处理大量数据的应用程序时,数据库的选择至关重要。选择一个合适的数据库不仅能确保数据的存储效率和安全性,还能提升应用程序的整体性能和用户体验。以下将从几个关键方面探讨如何为数据量大的app选择合适的数据库。 首先,考虑数据量的大小。 对于数据量庞大的应用程序,首要考虑的是数据库的存储能力和扩展性…

    2026年9月7日
    000
  • 在 Spring Boot Web 应用程序中序列化枚举

    枚举类型在定义应用程序域内有限且明确的值集方面非常有效,有助于避免代码中出现无效状态。 应用场景 以下以一个Spring Boot 3.3.x 和 MongoDB 实现的笔记Web应用为例,演示枚举值的序列化和反序列化方法。 我们将定义一个Type枚举,表示待办事项的类型:事件和活动。 public…

    2026年9月7日
    000
  • 玩转mongoDB(五):mongoDB 3.0+ 查询性能分析

    为了展示mongodb的性能分析方法,我们首先创建一个包含200万个文档的集合。(在我的电脑上,插入过程大约耗时15分钟。如果您想插入更多文档,只要有耐心等待即可。) 为了演示的效果,我们先来创建一个有200万个文档的记录。(我自己的电脑耗了15分钟左右插入完成。如果你想插更多的文档也没问题,只要有…

    2026年9月7日
    200
  • 黑鲨手机遇到开机关机循环,这些技巧帮你快速解决!

    黑鲨手机遇到开机关机循环,这些技巧帮你快速解决! 现代手机已经成为我们生活中不可或缺的一部分,作为一种智能手机,黑鲨手机在游戏性能和用户体验方面都有着很高的评价。然而,有时候我们可能会遇到一些问题,比如开机关机循环。这种问题可能会让我们感到困扰,但是不要担心,下面将介绍一些技巧,帮助你快速解决黑鲨手…

    用户投稿 2026年9月7日
    100
  • linux 下同名符冲突的问题及解决办法

    这篇文章主要介绍了 linux 下同名符号冲突问题解决方案的相关资料,需要的朋友可以参考下 linux 下同名符号冲突问题解决方案 最近的工作中遇到如下令人蛋疼的问题: Linux 下有三个模块aa、bb、cc,基本情况如下: cc 编译连接得到 cc.so 动态库,cc 中有如下接口: cc_fu…

    用户投稿 2026年9月7日
    100
  • nginx上出现403应该怎么解决

    遇到的问题表现出来就是如题所述,因此作为题目。 我们知道,前端有很多方便的构建和打包工具,如webpack等,通常我们会把前端文件打包到dist目录下,部署到服务器上,如nginx等。 这次遇到的问题是我下载了别人的一个代码压缩包,是一个vue.js+webpack的项目,构建好后上传服务器,可以保…

    2026年9月6日
    000
  • linux系统中对SSD硬盘优化的实例教程

    1、ext4文件系统在ssd硬盘是最快的 2、IO的算法修改成noop,操作系统本身不做处理,让SSD本身处理   echo noop > /sys/block/sdb/queue/scheduler 3、echo 4096 > read_ahead_kb   表示事先预读数据的Kb数,…

    用户投稿 2026年9月6日
    000
  • MySQL如何监控数据库性能_有哪些常用监控工具?

    MySQL如何监控数据库性能_有哪些常用监控工具?MySQL如何监控数据库性能_有哪些常用监控工具?MySQL如何监控数据库性能_有哪些常用监控工具?MySQL如何监控数据库性能_有哪些常用监控工具?

    mysql性能监控需关注关键指标、使用合适工具、设置告警并注意易忽略细节。一、最关键监控指标包括连接数、qps/tps、慢查询数量、innodb读写情况、锁等待与死锁;二、常用工具包括show processlist、pmm、zabbix、prometheus+grafana、pt-query-di…

    2026年9月5日 用户投稿
    100
  • linux进入单用户模式的方法介绍

    redhat7.2 在使用grub引导程序的时候如何进入单用户 1.在出现GURB引导画面时,按字母e,进入GRUB编辑状态 2在引导菜单后添加“1”或single,选定它,然后按字母b,就可引导到单用户模式了。  例如: red hat linux 7.2,未编辑时引导菜单是:  RedHat L…

    用户投稿 2026年9月4日
    100
  • 高效单元测试:使用Helmich/Mongomock模拟MongoDB

    我最近参与开发一个基于mongodb的项目,其中涉及大量的数据库操作。为了保证代码质量,我们需要编写全面的单元测试。然而,直接使用真实的mongodb进行单元测试带来了诸多不便:测试速度慢,需要搭建和维护测试数据库,以及测试环境的依赖性等问题。这些问题严重影响了开发效率和测试的稳定性。 为了解决这个…

    用户投稿 2026年9月4日
    200
  • 这次简单多了,最新版 MongoDB 安装

    这次简单多了,最新版 MongoDB 安装这次简单多了,最新版 MongoDB 安装这次简单多了,最新版 MongoDB 安装这次简单多了,最新版 MongoDB 安装

    在 windows 10 系统上安装 mongodb 4.0.1 版本变得更为简便,基本上一路点击“下一步”就能完成安装,不再需要繁琐的配置。 首先,访问 MongoDB 官方网站,下载 MongoDB 4.0.1 版本,网址如下: https://www.php.cn/link/9cba84644…

    2026年9月4日 用户投稿
    300
  • MySQL日志设置及查看方法详解

    我们都很熟悉mysql日志,本文主要介绍了mysql日志设置及查看方法,需要的朋友可以参考下,希望能帮助到大家。 MySQL有以下几种日志:错误日志: -log-err查询日志: -log慢查询日志: -log-slow-queries更新日志: -log-update二进制日志: -log-bin…

    用户投稿 2026年9月3日
    100
  • 谷歌浏览器为什么不能投屏到电视上_谷歌浏览器无法投屏原因及解决方法

    首先检查网络连接,确保电脑与电视处于同一Wi-Fi网络并关闭路由器AP隔离;确认电视支持Google Cast且相关应用已开启;更新Chrome浏览器及电视固件至最新版本;通过Chrome菜单正确发起投屏请求;检查HDMI连接稳定性;最后重启所有设备或重置Chromecast以恢复通信。 如果您尝试…

    2026年9月3日
    300
  • 利用Webman实现网站实时通信的方法和技巧

    利用Webman实现网站实时通信的方法和技巧 随着互联网的快速发展,实时通信在网站开发中变得越来越重要。借助实时通信技术,网站可以实现即时的消息推送、实时聊天、在线游戏等功能,提升用户体验和网站的交互性。而Webman作为一种轻量级的Web应用服务器,提供了一种简洁高效的实时通信解决方案。本文将介绍…

    2026年9月3日
    000

发表回复

登录后才能评论
关注微信