PB工具开发的ERP软件,在做MRP运算时,老内存溢出

aiouw 2013-06-09 10:09:51
老的ERP,PB工具开发,版本应该是9.0,但是MRP运算时,报内存溢出错误,个人判断,做MRP运算时,是把所有的需求信息和供给信息读取放入 dataview 来运算的。现在数据量有点大,10多万量级。
就担心这个数据量达到了PB9.0 数据窗口的极限。
...全文
654 7 打赏 收藏 转发到动态 举报
写回复
用AI写文章
7 条回复
切换为时间正序
请发表友善的回复…
发表回复
GZY1123 2013-07-23
  • 打赏
  • 举报
回复
表字段的问题吧
dyf0130 2013-06-14
  • 打赏
  • 举报
回复
北崔我就曾经被这个东西折腾死了 1个验收完的系统, 到了年底出各种报表的时候,报内存溢出错误 完全新写的代码,挣的却是维护的工资
DYFDWX 2013-06-13
  • 打赏
  • 举报
回复
建议用存储过程
fengxiaohan211 2013-06-09
  • 打赏
  • 举报
回复
改成存储过程在后台处理,处理完了返回可以不
PB菜鸟 2013-06-09
  • 打赏
  • 举报
回复
引用 1 楼 fengxiaohan211 的回复:
改成存储过程在后台处理,处理完了返回可以不
数据量大的计算 可以用这个方法。
I_am_Z 2013-06-09
  • 打赏
  • 举报
回复
我觉得这其中主要问题不在数据窗口上,还是在算法上。没有什么变量是可以供你无穷无尽存储的,定义变量前要仔细想想它可能在使用时被膨胀到多大。我觉得这才是你要解决的根本问题。 mrp运算,我之前写过。其中涉及比较多的是用递归,计算下级物料。但我用的方式是在pb中定义函数,分块调用。这样调用函数后在每级计算完自己那部分的物料需求后,就向上一级返回,自然,其中涉及计算使用的变量也就被释放了。没有出现过内存溢出的问题。
cyp_zhouheng 2013-06-09
  • 打赏
  • 举报
回复
数据窗口做分页处理
版本:presto-server-0.214.tar软件版本 presto-cli-0.214-executableCentOS71、presto的起因 hadoop ---hdfs----MR(java)-----hivehive底层原理用MR,速度比较慢,公司hadoop集群主要集中于晚上到凌晨,平日工作间负载不是很高。但在工作间内,公司业务人员有实查询的需求,现在主要借助于hive提供业务人员的查询。hive是基于MR类的SQL查询工具,他会输入的查询SQL解析为MapReduce,能极大的降低使用大数据门槛,让一般的业务人员可以直接准对大数据进行查询,但是有一个利弊,它的查询基于MR,会让人等待比较着急,等待的间可能是几个小或者一天。 spark基于内存提高改良的hive,sql,现在factbook在hive上面开发一套利器,准对hive可以通过sql语句快速查询,presto。2、Facebook为何开发Presto  Facebook的2011的数据仓库存储在少量大型hadoopfs集群,Hive是FaceBook在几年前专门为Hadoop打造的一款数据仓库工具,在以前,facebook的科学家和分析师一直靠hive进行数据分析.但hive使用MR作为底层计算框架,是专为批处理设计的,但是随着数据的不断增多,使用hive进行一个简单的数据查询可能要花费分钟或者几个小,显然不能满足查询需求,FaceBooke也调研了其他比hive更快的工具,但是他们需要在功能有限的条件下简单操作,以至于无法操作Facebook庞大的数据要求。2012年开始研究自己的框架--presto,每日可以超过1pb查询,而且速度比较快,faceBook声称Presto的性能比hive要好上10倍或者100倍,presto和hive都是facebook开发的 Presto是一个开源的分布式SQL查询引擎,适用于交互式查询,数据量支持GB到PB字节。Presto的设计和编写完全是为了解决Facebook这样规模的商业数据仓库交互式分析和处理速度的问题Presto可以什么 Presto支持在线数据查询,包括Hive kafka Cassandra关系数据库以及专门数据存储,一条Presto查询可以将多个数据源进行合并,可以跨越整个组织进行分析。Presto以分析师的需求作为目标,他们期望相应速度小于1秒到几分钟,Presto要么在使用速度的快的昂贵的商业方案,提高内存,要么是消耗大量的硬件进行快速查询。(128G 64G)本套课程教给如何在企业环境中使用Presto技术。

609

社区成员

发帖
与我相关
我的任务
社区描述
PowerBuilder DataWindow
社区管理员
  • DataWindow社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧