社区
Java EE
帖子详情
10亿数据毫秒级查询
csdn_runjen
2017-03-08 08:18:43
技术总监给出的方案是存到redis中,可是我pipe存储的时候,每回存入的数据量大概只占用总数据量的三分之一,其他三分之后存储失败,有没有大神遇到过这种问题,或者有没有替代方案。十万火急啊
...全文
977
10
打赏
收藏
10亿数据毫秒级查询
技术总监给出的方案是存到redis中,可是我pipe存储的时候,每回存入的数据量大概只占用总数据量的三分之一,其他三分之后存储失败,有没有大神遇到过这种问题,或者有没有替代方案。十万火急啊
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
10 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
ArayChou
2017-03-17
打赏
举报
回复
楼主问题都没有描述清楚,就来一堆吐槽技术总监的,我就想问,还有啥现成的方案,速度比redis还快的! 人家哪里有说错?
一个治疗术
2017-03-16
打赏
举报
回复
我是来看一楼的,顺便吐槽一下你们公司的技术总监
土豆的老公
2017-03-16
打赏
举报
回复
redis,,,,碉堡了。 10亿数据还不分片?
gudaobeige
2017-03-15
打赏
举报
回复
这样大批量的刷新数据,必然会带来大的IO。
gudaobeige
2017-03-15
打赏
举报
回复
redis本身是又一种机制,把内存中的数据持久化到磁盘中去,具体使用什么样的策略是要看redis示例的配置。 当做持久化的时候是非常消耗,计算下批量处理的数据大小是否超出了实例的内存。 另外,如果把10亿的数据保存到一个示例或者一个key中,可以测试下,毫秒级的查询不太现实,可以尝试做分片,或者是分key存储
用户名无法显示
2017-03-15
打赏
举报
回复
这水平也能当技术总监啊,我觉得你需要Hadoop
其实我是真性情
2017-03-15
打赏
举报
回复
你应该去问你们技术总监,缓存放10亿条数据,确实是没谁了
奄灬苟且偷生
2017-03-15
打赏
举报
回复
我怎么觉的你需要一个固态硬盘,完全把硬盘当内存用 你可以去看下redis的配置申请了多大的空间,或者你就直接分3次存储,每一次存一部分,看看什么时候出问题
ylovep
2017-03-15
打赏
举报
回复
缓存放10亿条数据 也是没谁了
一剑侵心
2017-03-15
打赏
举报
回复
竟然看见了美女头像
BAT公司万
亿
海量
数据
分页秒
级
查询
落地方案实现
在这个互联网高速发展的时代,
数据
呈指数
级
增长,像国内BAT一样的大企业
数据
量积累已经达到万
亿
级
别,对于这么大的
数据
量,该怎么做到分页的秒
级
甚至
毫秒
级
的响应时效呢?我们该怎么存储设计以及
查询
设计呢? 本课程将讲解万
亿
海量
级
数据
存储方案以及秒
级
查询
方案,并且落地实现。该课程将采用循序渐进方式一步一步带大家实现该系统,中间将穿插一些技术知识点讲解,让大家实现系统的同时,更深入理解其中的技术点。该课程系统最终是一个可用的分页秒
级
查询
落地实现项目,包含解决方案以及实现,商业价值极高。大家可以根据自己企业的特定需求,稍加改造就可以用到自己企业的项目中去。 开发环境概述 开发工具:IDEA本课程用到技术:Spring Boot 2.1.0.RELEASESpring Cloud Greenwich.SR5Mybatis、Redis、QuartzAOP、自定义注解、反射技术Openfeign、EurekaThreadLocalThymeleafjQuery、AjaxMaven等企业一线架构师讲授,代码在老师的指导下企业可以复用,提供企业解决方案。 版权归作者所有,盗版将进行法律维权。
亿
级
数据
毫秒
级
查询
,ElasticSearch是怎么做到的?
1. 一道面试题的引入:2. 性能优化的杀手锏:Filesystem Cache3.
数据
预热4. 冷热分离5. ElasticSearch 中的关联
查询
6. Document 模型设计7. 分页性能优化如果面试的时候碰到这样一个面试题:ElasticSearch(以下简称ES) 在
数据
量很大的情况下(数十
亿
级
别)如何提高
查询
效率?这个问题说白了,就是看你有没有实际用过 ES,因为啥?其实 ES 性能并没有你想象中那么好的。很多时候
数据
量大了,特别是有几
亿
条
数据
的时候,可能你会懵逼的发现,跑个搜索怎么一下
百
亿
数据
,
毫秒
级
返回
查询
优化
与其说上面列的这些点是 MySQL 的不足,倒不如说 MySQL 本身就不是为海量
数据
查询
而设计的,术业有专攻,海量
数据
查询
还得用专门的搜索引擎,这其中 ES 是其中当之无愧的王者,它是基于 Lucene 引擎构建的开源分布式搜索分析引擎,可以提供针对 PB
数据
的近实时
查询
,广泛用在全文检索、日志分析、监控分析等场景。轻松支持各种复杂的
查询
条件: 它是分布式实时文件存储,会把每一个字段。
Elasticsearch如何做到数十
亿
数据
查询
毫秒
级
响应?
这里有个真实的案例。然后这样的话,你大量的时间是在访问热
数据
index,热
数据
可能就占总
数据
量的
10
%,此时
数据
量很少,几乎全都保留在 filesystem cache 里面了,就可以确保热
数据
的访问性能是很高的。根据我们自己的生产环境实践经验,最佳的情况下,是仅仅在 es 中就存少量的
数据
,就是你要用来搜索的那些索引,如果内存留给 filesystem cache 的是
10
0G,那么你就将索引
数据
控制在
10
0G 以内,这样的话,你的
数据
几乎全部走内存来搜索,性能非常之高,一般可以在 1 秒以内。
查询
亿
级
数据
毫秒
级
返回!怎么做到的?
一道面试题的引入: 如果面试的时候碰到这样一个面试题:ElasticSearch(以下简称ES) 在
数据
量很大的情况下(数十
亿
级
别)如何提高
查询
效率? 这个问题说白了,就是看你有没有实际用过 ES,因为啥?其实 ES 性能并没有你想象中那么好的。 很多时候
数据
量大了,特别是有几
亿
条
数据
的时候,可能你会懵逼的发现,跑个搜索怎么一下 5~
10
s,坑爹了。 第一次搜索的时候,...
Java EE
67,513
社区成员
225,880
社区内容
发帖
与我相关
我的任务
Java EE
J2EE只是Java企业应用。我们需要一个跨J2SE/WEB/EJB的微容器,保护我们的业务核心组件(中间件),以延续它的生命力,而不是依赖J2SE/J2EE版本。
复制链接
扫一扫
分享
社区描述
J2EE只是Java企业应用。我们需要一个跨J2SE/WEB/EJB的微容器,保护我们的业务核心组件(中间件),以延续它的生命力,而不是依赖J2SE/J2EE版本。
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章