社区
PHP
帖子详情
实时大数据怎么处理?
iwillfling
2017-11-29 06:33:38
在抢购活动中,用户每分钟产生至少5万多条购买记录数据, 系统每分钟内要把上一分钟内的5万多天数据及时处理掉(改变状态字段)。
如果把记录从数据库读取出来用 for 循环处理。处理速度有点慢。还没处理完,新数据又来了。 该怎么办?
运行环境是centos7.0+ php 7.2 + mysql+ nginx
...全文
424
4
打赏
收藏
实时大数据怎么处理?
在抢购活动中,用户每分钟产生至少5万多条购买记录数据, 系统每分钟内要把上一分钟内的5万多天数据及时处理掉(改变状态字段)。 如果把记录从数据库读取出来用 for 循环处理。处理速度有点慢。还没处理完,新数据又来了。 该怎么办? 运行环境是centos7.0+ php 7.2 + mysql+ nginx
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
4 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
cjiejie
2019-12-26
打赏
举报
回复
xuzuning
2017-11-30
打赏
举报
回复
修改状态字段直接用 update 指令,而不是读出来 for 再 update 一分中处理五万条记录,并不是困难的事情 如果你确定瓶颈在数据库读写上,可考虑内存表 memcac 和 redis 都是单线程的第三方服务,无论在运行效率和操作灵活性上都不如内存表
老虎爱代码
2017-11-30
打赏
举报
回复
你这种的话,需要用redis,把产生的数据扔到redis里面,读写效率会好很多,用时间作为score,每分钟的数据使用同一个score,每次你要处理的时候,处理上一分钟score里面的数据!
天台的故事
2017-11-30
打赏
举报
回复
可以在加个redisNoSql
智慧城市之
大数据
专题 -(基础篇)何为
大数据
?
同时,对于内部统计分析,由于数据的维度有限,没有融合更多维度的政府其他部门的数据,或者数据也没有经过基本的加工
处理
,不能完全满足
大数据
基本特征,所以,严格意义上说,不能算为
大数据
项目,或者叫
大数据
的...
怎么进行
大数据
测试?我们需要具备怎样的测试能力?
前言:现在
大数据
这么火,那么作为测试人员,我们应该怎么进行
大数据
测试?需要具备怎样的测试能力? 一、
大数据
测试实现被分成三个步骤 (1):数据阶段验证
大数据
测试的第一步,也称作pre-hadoop阶段该过程包括...
什么是
大数据
测试?
前言:近两年互联网行业动不动就喊着“
大数据
”的口号,
大数据
的诞生让很多企业节省人力物力实现精准营销获得丰厚利润。随着数据工程和数据分析技术的不断进步,
大数据
测试不可避免。
大数据
是用于大量结构化、半...
为什么越来越多的企业急招Java
大数据
工程师?
为什么越来越多的企业急招Java
大数据
工程师? 为什么马云如此看重Java
大数据
技术? 为什么人人都在讨论Java
大数据
?...科技渗透到各个领域,并且已经成为每个
处理
单元的必要元素。谈到IT行业,具体来...
纠结做
大数据
开发?
大数据
运维?还是
大数据
分析?
经常有同学在后台留言问我,自己觉得
大数据
行业薪资很高,想往
大数据
方向发展,但不知道该学哪些知识,应该具备的技能树是啥样的。迷茫和焦虑都要溢出屏幕了……如果觉得薪资高就业好,想往
大数据
方向发展,也不是不...
PHP
20,358
社区成员
19,658
社区内容
发帖
与我相关
我的任务
PHP
“超文本预处理器”,是在服务器端执行的脚本语言,尤其适用于Web开发并可嵌入HTML中。PHP语法利用了C、Java和Perl,该语言的主要目标是允许web开发人员快速编写动态网页。
复制链接
扫一扫
分享
社区描述
“超文本预处理器”,是在服务器端执行的脚本语言,尤其适用于Web开发并可嵌入HTML中。PHP语法利用了C、Java和Perl,该语言的主要目标是允许web开发人员快速编写动态网页。
php
phpstorm
技术论坛(原bbs)
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章