实时大数据怎么处理?

iwillfling 2017-11-29 06:33:38
在抢购活动中,用户每分钟产生至少5万多条购买记录数据, 系统每分钟内要把上一分钟内的5万多天数据及时处理掉(改变状态字段)。

如果把记录从数据库读取出来用 for 循环处理。处理速度有点慢。还没处理完,新数据又来了。 该怎么办?

运行环境是centos7.0+ php 7.2 + mysql+ nginx
...全文
424 4 打赏 收藏 转发到动态 举报
写回复
用AI写文章
4 条回复
切换为时间正序
请发表友善的回复…
发表回复
cjiejie 2019-12-26
  • 打赏
  • 举报
回复
xuzuning 2017-11-30
  • 打赏
  • 举报
回复
修改状态字段直接用 update 指令,而不是读出来 for 再 update 一分中处理五万条记录,并不是困难的事情 如果你确定瓶颈在数据库读写上,可考虑内存表 memcac 和 redis 都是单线程的第三方服务,无论在运行效率和操作灵活性上都不如内存表
老虎爱代码 2017-11-30
  • 打赏
  • 举报
回复
你这种的话,需要用redis,把产生的数据扔到redis里面,读写效率会好很多,用时间作为score,每分钟的数据使用同一个score,每次你要处理的时候,处理上一分钟score里面的数据!
天台的故事 2017-11-30
  • 打赏
  • 举报
回复
可以在加个redisNoSql

20,358

社区成员

发帖
与我相关
我的任务
社区描述
“超文本预处理器”,是在服务器端执行的脚本语言,尤其适用于Web开发并可嵌入HTML中。PHP语法利用了C、Java和Perl,该语言的主要目标是允许web开发人员快速编写动态网页。
phpphpstorm 技术论坛(原bbs)
社区管理员
  • 开源资源社区
  • phpstory
  • xuzuning
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧