在处理大量数据时,应该注意哪些问题
我以前写的程序用到的数据库中的数据量都很小,最多也就是千把条记录
但最近在写一个数据提取的程序,其记录条数在近50K的容量。
我的方法是,一次性将所有数据导入数据集内,然后遍历数据集,对每条记录进行操作。可以做,但是运行时,内存并侵占一空,CPU也占到了90%多。我的机器是P4 1.8G,256M内存,在运算时,耗时约五分钟左右。
因此,我在想如何能改进我的方法,可以降低内存的占有量及CPU的耗量?不然的话,每次运行时,程序如同死机一样,若不是我有被百般蹂躏的麻木之心,估计是很难承受的。而且最关键的问题是,我在另一个程序中使用时,由于对每条记录要做的操作多了一些,系统干脆报错,停止运行了。让人非常地郁闷!
不知道各位大哥大姐还有好点的方法吗?多谢各位了!!
问题点数:45、回复次数:4Top
1 楼jjiaming(阿熊)回复于 2005-10-02 19:17:40 得分 30
近50K的容量也不大啊, 不至于像楼主说的那样子吧
Top
2 楼jjiaming(阿熊)回复于 2005-10-02 19:20:18 得分 0
在另一个程序中使用时,由于对每条记录要做的操作多了一些,系统干脆报错,停止运行了。让人非常地郁闷!
----------------------------------------------------------------
我想这应该不是“每条记录要做的操作多了一些”的问题,而是程序有问题,好好检查一下程序,最好把相关代码贴出来
Top
3 楼Mackz(在相互)回复于 2005-10-03 00:49:20 得分 15
应该是程序有问题,或者你的数据处理占用的时间太长,总之是程序设计不合理。如果要加快界面响应速度,可以考虑多线程。Top
4 楼welman00chijian(welman)回复于 2005-10-03 01:00:43 得分 0
我取到数据后是要做一堆的处理,有什么办法可以缩短单条数据的处理时间吗?Top




