分布式web系统,多个tomcat,日志很大,如何做日志查询呢?

SpiderMan 2015-06-29 10:28:22
请教大家一个问题,大家在做分布式web系统的时候,比如那么多个tomcat,每天都会产生很多的日志(虽然已经按小时进行日志拆分了,但日志内容还是很大,vim查日志的时候很慢),而且那么多个tomcat,每个tomcat都要去查询,这样日志查询会很麻烦,效率很低,想请教大家是如何处理的呢?我赶脚这是个系统设计问题,不知道大家是用的什么架构和组件来解决这样的问题的?
...全文
1373 8 打赏 收藏 转发到动态 举报
写回复
用AI写文章
8 条回复
切换为时间正序
请发表友善的回复…
发表回复
名明鸣冥 2017-12-16
  • 打赏
  • 举报
回复
分布式查日志个简单的办法, 把一台机设置成ssh 免密登陆到其它机,然后用下面这样的版本来找关键字. ipArr=('10.xxx' '10.xxx.16' '10xxx17' '10.xxx.18') for ip in ${ipArr[@]};do echo $ip ssh $ip grep <关键字> /xxx/log/account/account.log.[1-5] done
红烧茄子-306 2015-07-10
  • 打赏
  • 举报
回复
splunk
chaoliu1024 2015-07-02
  • 打赏
  • 举报
回复
有专门对日志进行分析的,比如splunk,另外,生产环境的日志最好不要debug级别
大彪先生 2015-06-30
  • 打赏
  • 举报
回复
如果对分布式应用有了解的话,可以采用flume + kafka + storm 来做日志实时监控或者分析。 但是感觉你只是要能vim打开看,那么你可以把日志的粒度分的再细些(时间/大小)。
大彪先生 2015-06-30
  • 打赏
  • 举报
回复
引用 4 楼 baiyang911 的回复:
[quote=引用 3 楼 u010811257 的回复:] 如果对分布式应用有了解的话,可以采用flume + kafka + storm 来做日志实时监控或者分析。 但是感觉你只是要能vim打开看,那么你可以把日志的粒度分的再细些(时间/大小)。
谢谢大侠的回答,你的回答,让我清晰了自己的问题方向,我重新梳理下自己的问题:对于分布式应用的一般架构是什么样的?后台服务做日志实时监控或分析的一般架构是什么样的?想进一步了解下这方面的架构和技术点,有个学习方向和侧重点,能否举一些实践例子,灰常感谢大侠!!!(目前,了解一些lvs,nginx,kafka,redis,rabbitmq)[/quote] hadoop生态圈以及spark,目前分布式应用或者大数据这块比较不错,可以花点时间研究下这方面的技术。
SpiderMan 2015-06-30
  • 打赏
  • 举报
回复
引用 3 楼 u010811257 的回复:
如果对分布式应用有了解的话,可以采用flume + kafka + storm 来做日志实时监控或者分析。 但是感觉你只是要能vim打开看,那么你可以把日志的粒度分的再细些(时间/大小)。
谢谢大侠的回答,你的回答,让我清晰了自己的问题方向,我重新梳理下自己的问题:对于分布式应用的一般架构是什么样的?后台服务做日志实时监控或分析的一般架构是什么样的?想进一步了解下这方面的架构和技术点,有个学习方向和侧重点,能否举一些实践例子,灰常感谢大侠!!!(目前,了解一些lvs,nginx,kafka,redis,rabbitmq)
夜无边CN 2015-06-29
  • 打赏
  • 举报
回复
把不同级别的日志分开打呢
SpiderMan 2015-06-29
  • 打赏
  • 举报
回复
肿么木有人回答,自己顶下
本课程是一门具有很强实践性质的“项目实战”课程,即“企业中台系统实战”,其中主要包含三大块核心内容,如下图所示(右键可以在新标签页中打开图片放大查看): 即主要包含以下三大块内容: ① 企业内部应用系统菜单资源和操作权限的统一管理; ② 分布式应用系统通信时的统一授权,即基于AccessToken的授权与认证; ③ 分布式服务/系统通信时的两大方式(基于dubbo rpc协议和基于http协议的restful api实战)。   值得一提的是,这套中台系统由于讲解了如何统一管理企业内部各大应用系统的“菜单资源列表”、“操作权限”,故而本门课程的“代码实战”是建立在之前debug录制的“企业权限管理平台”这套课程的基础之上的,故而在这里debug建议没有项目开发基础的小伙伴可以先去学习我的那套“企业权限管理平台”的实战课程,之后再来学习我的这套中台系统的实战才不会很吃力(课程链接:)   本课程的课程大纲如下图所示(右键可以在新标签页中打开图片放大查看):   除此之外,这套“中台系统”由于统一管理了企业内部各大应用系统的“菜单资源和操作权限”以及“应用系统之间通信时的统一授权”,故而难免需要涉及到“中台系统”与“中台子系统”、“中台子系统”与“中台子系统”之间的通信(即分布式服务之间的通信),在这里我们是采用“dubbo + zookeeper”的方式加以落地实现的,详情如下图所示(右键可以在新标签页中打开图片放大查看):   而众所周知,作为一款知名以及相当流行的分布式服务调度中间件,dubbo现如今已经晋升为Apache顶级的开源项目,未来也仍将成为“分布式系统”开发实战的一大利器,如下图所示为dubbo底层核心系统架构图(右键可以在新标签页中打开图片放大查看): 而在这门“中台系统实战”的课程中,我们也将始终贯彻、落地dubbo的这一核心系统架构图,即如何将中台系统开发的服务注册/发布到注册中心zookeeper,中台子系统如何订阅/消费/调度中台系统发布在zookeeper的接口服务,中台子系统在走http协议调度通信时dubbo如何进行拦截、基于token认证接口的调用者等等,这些内容我们在课程中将一一得到代码层面的实战落地!   下图为本课程中涉及到的分布式系统/服务之间 采用“http协议restfulapi”方式通信时的Token授权、认证的流程图(右键可以在新标签页中打开图片放大查看): 而不夸张地说,基于AccessToken的授权、认证方式在现如今微服务、分布式时代系统系统在通信期间最为常用的“授权方式”了,可想而知,掌握其中的流程思想是多么的重要!   以下为本门课程的部分截图(右键可以在新标签页中打开图片放大查看):     核心技术列表: 值得一提的是,由于本门课程是一门真正介绍“中台思想”以及将“中台思想”和“分布式系统开发实战”相结合落地的课程,故而在学完本门课程之后,可以掌握到的核心技术自然是相当多的。主要由SpringBoot2.0、SpringMVC、Mybatis、Dubbo、ZooKeeper、Redis、OkHttp3、Guava-Retrying重试机制、JWT(Json Web Token)、Shiro、分布式集群session共享、Lombok、StreamAPI、Dubbo-Filter以及ServiceBean等等。如下图所示(右键可以在新标签页中打开图片放大查看):

20,808

社区成员

发帖
与我相关
我的任务
社区描述
Hadoop生态大数据交流社区,致力于有Hadoop,hive,Spark,Hbase,Flink,ClickHouse,Kafka,数据仓库,大数据集群运维技术分享和交流等。致力于收集优质的博客
社区管理员
  • 分布式计算/Hadoop社区
  • 涤生大数据
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧