关于Spring Batch
有哪位高手在实际的项目中使用过Spring Batch,我现在有两个问题:
1.经测试,每一个Job的启动和Step的切换都要花费25~30秒的时间,不知道这个开销是否有办法减少
2.我现在用Spring Batch实现从数据表读出数据,经过一定的处理或删选,写入另一张数据表。
采用Spring Batch的ItemReader和ItemWriter模型,reader用的是JdbcCursorItemReader,Writer用的是自定义ItemWriter,主要逻辑是基于Jdbctemplate的batch update,每次更新commit-interval数量的记录。目前最大的问题,每次 commit-interval的数量不能超过10000,否则outofmemory,有没有办法减少内存使用,二,这个模型花费的时间很长,远远超过使用sql语句实现。是否是实现方法有问题。
1.经测试,每一个Job的启动和Step的切换都要花费25~30秒的时间,不知道这个开销是否有办法减少
2.我现在用Spring Batch实现从数据表读出数据,经过一定的处理或删选,写入另一张数据表。
采用Spring Batch的ItemReader和ItemWriter模型,reader用的是JdbcCursorItemReader,Writer用的是自定义ItemWriter,主要逻辑是基于Jdbctemplate的batch update,每次更新commit-interval数量的记录。目前最大的问题,每次 commit-interval的数量不能超过10000,否则outofmemory,有没有办法减少内存使用,二,这个模型花费的时间很长,远远超过使用sql语句实现。是否是实现方法有问题。
...全文
相关推荐
Spring Boot整合Spring Batch,实现批处理
在Java开发领域,Spring Boot和Spring Batch的整合是构建高效批处理系统的一种常见方式。
spring batch批处理 教程
Spring Batch结构Spring Batch的架构由以下几个关键组件构成:- **Job**: 代表一个完整的批处理任务,可以包含一个或多个Step。
Spring Batch批处理框架
Spring Batch是一个开源的轻量级批处理框架,它提供了一整套可复用的组件,用于构建健壮且高效的批处理应用程序。
Java中批处理框架spring batch详细介绍
Java中批处理框架Spring Batch详细介绍 Spring Batch是Spring提供的一个数据处理框架,旨在开发对企业系统日常运营至关重要的强大批处理应用程序。
Spring Batch 批处理(1) - 简介及使用场景
什么是 Spring Batch 介绍 Spring Batch 作为 Spring 的子项目,是一款基于 Spring 的企业批处理框架。通过它可以构建出健壮的企业批处理应用。Spring Batch 不仅提供了统一的读写接口、丰富的任务处理方式、灵活的事务管理及并发处理,同时还支持日志、监控、任务重启与跳过等特性,大大简化了批处理应用开发,将开发人员从复杂的任务配置管理过程中解放出来,使他们...


