社区
MySQL
帖子详情
每秒钟写入10万条记录,能做到不?
bugs2k
2012-08-02 09:45:37
最近领导有点发疯,要求我们必须做到满足每秒写入10万条记录,每条记录大概 1k 字节左右。
请问各位大牛,哪种数据库系统可以满足要求?采用何种架构?
非常感谢您的回复!
...全文
1448
40
打赏
收藏
每秒钟写入10万条记录,能做到不?
最近领导有点发疯,要求我们必须做到满足每秒写入10万条记录,每条记录大概 1k 字节左右。 请问各位大牛,哪种数据库系统可以满足要求?采用何种架构? 非常感谢您的回复!
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
40 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
苏格拉低
2014-07-26
打赏
举报
回复
感觉 的确 难度很大, 高端
ComBat_Func
2014-07-13
打赏
举报
回复
不切实际; 1秒写10W次如果针对单表肯定不可能。但如果真是这种情况,更多的需要在架构上下点功夫吧! 多服务器,分表分区
3文丰
2014-07-09
打赏
举报
回复
希望看到解决方法
The_Third_Wave
2014-07-08
打赏
举报
回复
引用 14 楼 bugs2k 的回复:
ssd 指的是什么?
大神怎么不知道SSD,很奇怪啊!
Rotel-刘志东
2012-11-27
打赏
举报
回复
推存NoSQL应该能满足需求的。其他的关系型的数据库达不到的。
audi2
2012-11-27
打赏
举报
回复
最近双核2G家用机上实现了1万/秒
jsonyv
2012-10-23
打赏
举报
回复
坐等高人,学习学习!
夜夜风_
2012-10-16
打赏
举报
回复
写操作全部用上了啊,那如果当时有其他程序要读写硬盘怎么办?可以用缓存吗?然后调度一下优先级....还是看看高人解答
碧海情天-赵亮
2012-10-14
打赏
举报
回复
要做这么大一个应用,想偷偷用D版是不可能的。
碧海情天-赵亮
2012-10-14
打赏
举报
回复
硬件本身不是大问题,简单的分布式足够满足。
但软件的瓶颈才是大问题,所以选择合适的数据库才是最重要的。
这种情况,选择NOSQL类型的数据库是最好的选择,它们就是为这个研发的。谷歌,脸谱,Amazon等等都在用。
给你援引一下相关说明:
NoSQL,指的是非关系型的数据库。随着互联网web2.0网站的兴起,传统的关系数据库在应付web2.0网站,特别是超大规模和高并发的SNS类型的web2.0纯动态网站已经显得力不从心,暴露了很多难以克服的问题,而非关系型的数据库则由于其本身的特点得到了非常迅速的发展。
海量数据的存储如果选用大型商用数据,如Oracle,那么整个解决方案的成本是非常高的,要花很多钱在软硬件上。NoSQL分布式存储,可以部署在廉价的硬件上,是一个性价比非常高的解决方案。
llpyemao
2012-10-14
打赏
举报
回复
[Quote=引用 28 楼 的回复:]
引用楼主 的回复:
最近领导有点发疯,要求我们必须做到满足每秒写入10万条记录,每条记录大概 1k 字节左右。
请问各位大牛,哪种数据库系统可以满足要求?采用何种架构?
非常感谢您的回复!
SSD混合盘+RAID, 多个库分写,可以达到。关键是你们这个业务是什么样的分布情况。
话说,这么密集的写,历史数据如何处理?
有点像是实时数据采集的味道。
[/Quote]
不错,好办法
去圣西罗-为尤文喝彩
2012-10-12
打赏
举报
回复
很诱人的标题,10W per second,肯定是分库,集群。使用专用的数据库服务器,像DB2之类的。
注意需要考虑数据库的维护。
iihero
2012-10-12
打赏
举报
回复
[Quote=引用楼主 的回复:]
最近领导有点发疯,要求我们必须做到满足每秒写入10万条记录,每条记录大概 1k 字节左右。
请问各位大牛,哪种数据库系统可以满足要求?采用何种架构?
非常感谢您的回复!
[/Quote]
SSD混合盘+RAID, 多个库分写,可以达到。关键是你们这个业务是什么样的分布情况。
话说,这么密集的写,历史数据如何处理?
有点像是实时数据采集的味道。
heavstar
2012-10-12
打赏
举报
回复
路过,等结果
woqutech
2012-10-11
打赏
举报
回复
建议MySQL不要一台机器撑,而是尽量拆分,用多个MySQL来拆分压力,分布式解决。否则你数据插入的时候数据库其他的事情都不要做了。
展S开K双Y翼
2012-10-11
打赏
举报
回复
硬件要足够好才有可能,而且还要集群,分片什么的
北大青蛙
2012-08-19
打赏
举报
回复
很好奇,什么行业需要这么牛X?
兼哲
2012-08-19
打赏
举报
回复
没啥好纠结的
bugs2k
2012-08-19
打赏
举报
回复
继续纠结中...
兼哲
2012-08-06
打赏
举报
回复
果然又到这里来问了
加载更多回复(19)
java每秒处理上
万条
数据_[笔记]每秒1
万条
数据
写入
本文探讨了在特定硬件配置下,如何实现每秒将大量128字节
记录
高效
写入
Oracle数据库的方法。通过实验得出最佳
写入
速度可达18000条/秒,并总结了提高
写入
效率的关键因素。
虚拟列表原理与实现:如何流畅渲染
10
万条
数据
本文详解虚拟列表的核心原理:仅渲染可视区域元素,通过滚动监听、索引计算、绝对定位及缓冲区策略实现
10
万级数据的流畅渲染;涵盖固定/动态高度处理方案、滚动节流、避免重排、内存泄漏防范等关键技术要点,并对比分页与无限滚动的适用场景。
MySQL每秒57万的
写入
,带你飞~
本文介绍了如何通过XeLabs TokuDB优化MySQL的
写入
性能,达到每秒57
万条
记录
的
写入
速度。在8核8G内存的云环境中,20亿数据的加载只需58分钟。测试表明,TokuDB比InnoDB在
写入
效率上有显著优势,但在某些特定场景下,如使用带自增主键的表,性能会有所下降。
30
万条
日志每秒生成?内存池与缓冲区来救场!
本文聚焦秒杀系统的日志处理难题,当QPS达
10
万级别,每秒可能产生30
万条
日志,远超磁盘IOPS,还会带来内存频繁分配释放、异常退出日志丢失等问题。文中给出Tmpfs、内存池设计、Kafka缓冲池等优化策略,还提及引入分布式日志系统扩展日志处理能力。
golang的mongo批量
写入
压测
在实际生产中,批量数据插入和TTL过期会使DB的IO负载升高。本文分享了用Golang对Mongo进行压测的场景和结果,包括单进程和并发
写入
不同数据量的耗时、CPU使用率等,还提到单纯TTL过期及并发
写入
对IO性能的影响,建议根据业务选择删除数据的方式。
MySQL
57,064
社区成员
56,762
社区内容
发帖
与我相关
我的任务
MySQL
MySQL相关内容讨论专区
复制链接
扫一扫
分享
社区描述
MySQL相关内容讨论专区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章