数据采集处理问题 点击:580 | 回复:1



gongkongedit

    
  • 精华:1099帖
  • 求助:0帖
  • 帖子:14392帖 | 54470回
  • 年度积分:0
  • 历史总积分:622
  • 注册:2008年9月08日
发表于:2003-05-05 22:34:00
楼主
老师好,一般如何处理较大的数具?我现在用的采样频率100K,一分钟大概有12M的数据,我没有把它存入数据库,但处理起来速度非常慢.我试过内存映射文件的办法,不过好象速度也没提高多少,想多开几个存储线程多存几个文件又无法保证不掉点或有冗余点,不知道该怎么办,请老师指点.我知道有些系统数据量有几十个G,不知道他们都是怎么处理数据的.



李侃

  • 精华:22帖
  • 求助:0帖
  • 帖子:30帖 | 813回
  • 年度积分:0
  • 历史总积分:1015
  • 注册:2002年2月27日
发表于:2003-05-05 22:34:00
1楼
论处理速度,我想还是通过二进制文件存盘的方式速度最快。海量数据处理起来慢,这恐怕也没有办法。只能提高CPU速度&个数,增加内存来解决。

热门招聘
相关主题

官方公众号

智造工程师