内存拷贝的问题

[bingbingzhe]

请教一个问题：我需要大量的矩阵运行，而且这些矩阵都是大矩阵（每个矩阵400M)，那么我把这些数据up和down的时候就会有明显的耗时，请问给要怎么处理该问题呢？

我用cubals库来做矩阵的运算，而且是批量的运算就是一次运算几十个，这样每次有传递几个G的数据

我现在想到的是stream和分页锁定内存。
但是stream测试的结果显示没有任何提升，是不是我用错了，
分页锁定可以提高2倍的速度，但是对cpu的内存消耗太大，放在系统里可能会影响整个系统的性能。


请教各位怎么处理这个问题？

[rkl1016413922]

1. 压缩数据。比如楼上所说，稀疏矩阵或者对称矩阵之类的，也可以考虑其它压缩算法。 2. 将数据分为更小的块，让传输时间大体上等同于执行时间。

[bingbingzhe]

这个不是cuda的版块么，怎么大都是看不懂的？

[u010533714]

根本看不懂。

[城市数据匠]

这个真真看不到

[u011152680]

4楼的例子可以试一试。

[sinat_16654415]

觀摩學習中....

[网的昌硕]

都是　ＩＴ　　　精英啊！ 内存这方面的问题 有点复杂！！深入研究　，想必　，将来必定有所作为～～

[bbbing1972]

明白了，谢谢楼主。

[u013655905]

完全看不懂啊，各位大神啊。。。

[yangkewhut]

完全看不懂呀。。。。求共同学习！！

[bingbingzhe]

引用 2 楼 sparrow986831 的回复:

数据传输和执行的时间比是多少？如果执行时间远远小于数据传输时间，那么依靠stream是没有用的，因为stream是使数据传输和执行并行。如果传输时间远远大于执行时间，可以考虑两种方法： 1. 压缩数据。比如楼上所说，稀疏矩阵或者对称矩阵之类的，也可以考虑其它压缩算法。 2. 将数据分为更小的块，让传输时间大体上等同于执行时间。 另外，不知道楼主使用的是什么cublas操作，本人用cublas进行大小为3GB的矩阵加法和乘法的计算，传输时间远远小于了计算时间。批量计算不能明显的降低执行时间，记得文档上有这么说过。

\ 3G数据的传输时间应该要1.5s吧，这么大小的矩阵乘法要多久？

[erchumail]

数据传输和执行的时间比是多少？如果执行时间远远小于数据传输时间，那么依靠stream是没有用的，因为stream是使数据传输和执行并行。如果传输时间远远大于执行时间，可以考虑两种方法： 1. 压缩数据。比如楼上所说，稀疏矩阵或者对称矩阵之类的，也可以考虑其它压缩算法。 2. 将数据分为更小的块，让传输时间大体上等同于执行时间。 另外，不知道楼主使用的是什么cublas操作，本人用cublas进行大小为3GB的矩阵加法和乘法的计算，传输时间远远小于了计算时间。批量计算不能明显的降低执行时间，记得文档上有这么说过。

[sinat_16642387]

动态网页制作，看不懂

[zhenamwansui]

[kogou2200]

觀摩學習中....

[Lavandecassie]

这么高端！！！

[qq_16687113]

表示很是看不懂，路过。。。。。。。。

[艾迪mirror]

谢谢楼主，有点懂了

[w365w1]

我是小白看不懂但还是很赞

[bjcre]

支持原创，支持钻研程序设计！所有原创者辛苦了，向你们致敬！