请教高手,关于waitformultipleobjects函数的问题.

zhangyingjian11 2014-08-14 08:49:34
我现在做的程序是多线程函数,主线程负责采集数据,每当有两组数据同时来的时候,另一个线程开始处理数据。

该程序是边采集边处理,用waitformultipleobjects等待两个事件再处理数据这个功能我已经实现了,

但是现在存在的问题是如果采集速度大于处理速度,那处理线程就会来不及处理,以至于丢数据,

向请教高手这种情况应该怎么做,我现在也没有思路,谢谢!
...全文
234 18 打赏 收藏 转发到动态 举报
写回复
用AI写文章
18 条回复
切换为时间正序
请发表友善的回复…
发表回复
zhangyingjian11 2014-08-18
  • 打赏
  • 举报
回复
谢谢各位高手的指点,我的问题已经解决了,你们的回复给了我很多提示和帮助,十分感谢
勤奋的小游侠 2014-08-16
  • 打赏
  • 举报
回复
可以将数据写进硬盘。这样就不存在缓存不够的问题了。处理线程再从硬盘读回数据,慢慢处理。
阿麦 2014-08-16
  • 打赏
  • 举报
回复
两个采集线程分别做两个队列,有数据的时候通知一下数据处理线程。 在数据处理线程中: 1、封锁两个队列(独占,让采集线程写队列时阻塞) 2、如果两个队列都不为空的时候分别取出一个数 3、释放封锁 4、继续数据处理线程的其他工作 如果用 waitformultipleobjects(),应该不会出现采集过多的情况,因为这时候采集线程是停止的,没有工作。 要是采集速度始终大于处理速度,可以考虑多开几个处理数据的线程。这时候的线程同步要考虑得更仔细些。
zhangyingjian11 2014-08-16
  • 打赏
  • 举报
回复
引用 14 楼 zhao4zhong1 的回复:
[quote=引用 12 楼 zhangyingjian11 的回复:] 我不能让采集数据线程暂停,我只能让处理数据的线程延后,否则采集的数据会丢
夸张点说,只要开够足够大的缓存,你可以采集一个小时不处理,等采集结束后慢慢处理,处理一天也不算长。[/quote] 我现在用的是waitforMultipleObjects()函数,来通知处理线程开始处理,我的缓存也相对够大,如果像您说的我该用什么函数通知处理线程进行处理呢? 而且计数也是个问题,不能让处理线程的处理的个数超过采集来数据的个数,我用waitForMulitipleObjects(),就是采集一组数据处理一组数据,还有其他方式能实现吗?
赵4老师 2014-08-15
  • 打赏
  • 举报
回复
引用 12 楼 zhangyingjian11 的回复:
我不能让采集数据线程暂停,我只能让处理数据的线程延后,否则采集的数据会丢
夸张点说,只要开够足够大的缓存,你可以采集一个小时不处理,等采集结束后慢慢处理,处理一天也不算长。
「已注销」 2014-08-15
  • 打赏
  • 举报
回复
用信号量,不要用事件,信号量是可以计数的。
zhangyingjian11 2014-08-15
  • 打赏
  • 举报
回复
我不能让采集数据线程暂停,我只能让处理数据的线程延后,否则采集的数据会丢
zhangyingjian11 2014-08-15
  • 打赏
  • 举报
回复
启用多个处理线程是说序号是奇数的数据开一个处理线程,偶数的数据开一个处理线程吗?
modyaj 2014-08-14
  • 打赏
  • 举报
回复
对 能否考虑用多线程来处理!其次也要看看是不是处理过程中出现丢包 延迟 等情况把包丢弃了(我程序就有这样的处理方式)
赵4老师 2014-08-14
  • 打赏
  • 举报
回复
仅供参考
//循环向a函数每次发送200个字节长度(这个是固定的)的buffer,
//a函数中需要将循环传进来的buffer,组成240字节(也是固定的)的新buffer进行处理,
//在处理的时候每次从新buffer中取两个字节打印
#ifdef WIN32
    #pragma warning(disable:4996)
#endif
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#ifdef WIN32
    #include <windows.h>
    #include <process.h>
    #include <io.h>
    #define  MYVOID             void
    #define  vsnprintf          _vsnprintf
#else
    #include <unistd.h>
    #include <sys/time.h>
    #include <pthread.h>
    #define  CRITICAL_SECTION   pthread_mutex_t
    #define  MYVOID             void *
#endif
//Log{
#define MAXLOGSIZE 20000000
#define MAXLINSIZE 16000
#include <time.h>
#include <sys/timeb.h>
#include <stdarg.h>
char logfilename1[]="MyLog1.log";
char logfilename2[]="MyLog2.log";
static char logstr[MAXLINSIZE+1];
char datestr[16];
char timestr[16];
char mss[4];
CRITICAL_SECTION cs_log;
FILE *flog;
#ifdef WIN32
void Lock(CRITICAL_SECTION *l) {
    EnterCriticalSection(l);
}
void Unlock(CRITICAL_SECTION *l) {
    LeaveCriticalSection(l);
}
void sleep_ms(int ms) {
    Sleep(ms);
}
#else
void Lock(CRITICAL_SECTION *l) {
    pthread_mutex_lock(l);
}
void Unlock(CRITICAL_SECTION *l) {
    pthread_mutex_unlock(l);
}
void sleep_ms(int ms) {
    usleep(ms*1000);
}
#endif
void LogV(const char *pszFmt,va_list argp) {
    struct tm *now;
    struct timeb tb;

    if (NULL==pszFmt||0==pszFmt[0]) return;
    vsnprintf(logstr,MAXLINSIZE,pszFmt,argp);
    ftime(&tb);
    now=localtime(&tb.time);
    sprintf(datestr,"%04d-%02d-%02d",now->tm_year+1900,now->tm_mon+1,now->tm_mday);
    sprintf(timestr,"%02d:%02d:%02d",now->tm_hour     ,now->tm_min  ,now->tm_sec );
    sprintf(mss,"%03d",tb.millitm);
    printf("%s %s.%s %s",datestr,timestr,mss,logstr);
    flog=fopen(logfilename1,"a");
    if (NULL!=flog) {
        fprintf(flog,"%s %s.%s %s",datestr,timestr,mss,logstr);
        if (ftell(flog)>MAXLOGSIZE) {
            fclose(flog);
            if (rename(logfilename1,logfilename2)) {
                remove(logfilename2);
                rename(logfilename1,logfilename2);
            }
        } else {
            fclose(flog);
        }
    }
}
void Log(const char *pszFmt,...) {
    va_list argp;

    Lock(&cs_log);
    va_start(argp,pszFmt);
    LogV(pszFmt,argp);
    va_end(argp);
    Unlock(&cs_log);
}
//Log}
#define ASIZE    200
#define BSIZE    240
#define CSIZE      2
char Abuf[ASIZE];
char Cbuf[CSIZE];
CRITICAL_SECTION cs_HEX ;
CRITICAL_SECTION cs_BBB ;
struct FIFO_BUFFER {
    int  head;
    int  tail;
    int  size;
    char data[BSIZE];
} BBB;
int No_Loop=0;
void HexDump(int cn,char *buf,int len) {
    int i,j,k;
    char binstr[80];

    Lock(&cs_HEX);
    for (i=0;i<len;i++) {
        if (0==(i%16)) {
            sprintf(binstr,"%03d %04x -",cn,i);
            sprintf(binstr,"%s %02x",binstr,(unsigned char)buf[i]);
        } else if (15==(i%16)) {
            sprintf(binstr,"%s %02x",binstr,(unsigned char)buf[i]);
            sprintf(binstr,"%s  ",binstr);
            for (j=i-15;j<=i;j++) {
                sprintf(binstr,"%s%c",binstr,('!'<buf[j]&&buf[j]<='~')?buf[j]:'.');
            }
            Log("%s\n",binstr);
        } else {
            sprintf(binstr,"%s %02x",binstr,(unsigned char)buf[i]);
        }
    }
    if (0!=(i%16)) {
        k=16-(i%16);
        for (j=0;j<k;j++) {
            sprintf(binstr,"%s   ",binstr);
        }
        sprintf(binstr,"%s  ",binstr);
        k=16-k;
        for (j=i-k;j<i;j++) {
            sprintf(binstr,"%s%c",binstr,('!'<buf[j]&&buf[j]<='~')?buf[j]:'.');
        }
        Log("%s\n",binstr);
    }
    Unlock(&cs_HEX);
}
int GetFromRBuf(int cn,CRITICAL_SECTION *cs,FIFO_BUFFER *fbuf,char *buf,int len) {
    int lent,len1,len2;

    lent=0;
    Lock(cs);
    if (fbuf->size>=len) {
        lent=len;
        if (fbuf->head+lent>BSIZE) {
            len1=BSIZE-fbuf->head;
            memcpy(buf     ,fbuf->data+fbuf->head,len1);
            len2=lent-len1;
            memcpy(buf+len1,fbuf->data           ,len2);
            fbuf->head=len2;
        } else {
            memcpy(buf     ,fbuf->data+fbuf->head,lent);
            fbuf->head+=lent;
        }
        fbuf->size-=lent;
    }
    Unlock(cs);
    return lent;
}
MYVOID thdB(void *pcn) {
    char        *recv_buf;
    int          recv_nbytes;
    int          cn;
    int          wc;
    int          pb;

    cn=(int)pcn;
    Log("%03d thdB              thread begin...\n",cn);
    while (1) {
        sleep_ms(10);
        recv_buf=(char *)Cbuf;
        recv_nbytes=CSIZE;
        wc=0;
        while (1) {
            pb=GetFromRBuf(cn,&cs_BBB,&BBB,recv_buf,recv_nbytes);
            if (pb) {
                Log("%03d recv %d bytes\n",cn,pb);
                HexDump(cn,recv_buf,pb);
                sleep_ms(1);
            } else {
                sleep_ms(1000);
            }
            if (No_Loop) break;//
            wc++;
            if (wc>3600) Log("%03d %d==wc>3600!\n",cn,wc);
        }
        if (No_Loop) break;//
    }
#ifndef WIN32
    pthread_exit(NULL);
#endif
}
int PutToRBuf(int cn,CRITICAL_SECTION *cs,FIFO_BUFFER *fbuf,char *buf,int len) {
    int lent,len1,len2;

    Lock(cs);
    lent=len;
    if (fbuf->size+lent>BSIZE) {
        lent=BSIZE-fbuf->size;
    }
    if (fbuf->tail+lent>BSIZE) {
        len1=BSIZE-fbuf->tail;
        memcpy(fbuf->data+fbuf->tail,buf     ,len1);
        len2=lent-len1;
        memcpy(fbuf->data           ,buf+len1,len2);
        fbuf->tail=len2;
    } else {
        memcpy(fbuf->data+fbuf->tail,buf     ,lent);
        fbuf->tail+=lent;
    }
    fbuf->size+=lent;
    Unlock(cs);
    return lent;
}
MYVOID thdA(void *pcn) {
    char        *send_buf;
    int          send_nbytes;
    int          cn;
    int          wc;
    int           a;
    int          pa;

    cn=(int)pcn;
    Log("%03d thdA              thread begin...\n",cn);
    a=0;
    while (1) {
        sleep_ms(100);
        memset(Abuf,a,ASIZE);
        a=(a+1)%256;
        if (16==a) {No_Loop=1;break;}//去掉这句可以让程序一直循环直到按Ctrl+C或Ctrl+Break或当前目录下存在文件No_Loop
        send_buf=(char *)Abuf;
        send_nbytes=ASIZE;
        Log("%03d sending %d bytes\n",cn,send_nbytes);
        HexDump(cn,send_buf,send_nbytes);
        wc=0;
        while (1) {
            pa=PutToRBuf(cn,&cs_BBB,&BBB,send_buf,send_nbytes);
            Log("%03d sent %d bytes\n",cn,pa);
            HexDump(cn,send_buf,pa);
            send_buf+=pa;
            send_nbytes-=pa;
            if (send_nbytes<=0) break;//
            sleep_ms(1000);
            if (No_Loop) break;//
            wc++;
            if (wc>3600) Log("%03d %d==wc>3600!\n",cn,wc);
        }
        if (No_Loop) break;//
    }
#ifndef WIN32
    pthread_exit(NULL);
#endif
}
int main() {
#ifdef WIN32
    InitializeCriticalSection(&cs_log);
    InitializeCriticalSection(&cs_HEX );
    InitializeCriticalSection(&cs_BBB );
#else
    pthread_t threads[2];
    int threadsN;
    int rc;
    pthread_mutex_init(&cs_log,NULL);
    pthread_mutex_init(&cs_HEX,NULL);
    pthread_mutex_init(&cs_BBB,NULL);
#endif
    Log("Start===========================================================\n");

    BBB.head=0;
    BBB.tail=0;
    BBB.size=0;

#ifdef WIN32
    _beginthread((void(__cdecl *)(void *))thdA,0,(void *)1);
    _beginthread((void(__cdecl *)(void *))thdB,0,(void *)2);
#else
    threadsN=0;
    rc=pthread_create(&(threads[threadsN++]),NULL,thdA,(void *)1);if (rc) Log("%d=pthread_create %d error!\n",rc,threadsN-1);
    rc=pthread_create(&(threads[threadsN++]),NULL,thdB,(void *)2);if (rc) Log("%d=pthread_create %d error!\n",rc,threadsN-1);
#endif

    if (!access("No_Loop",0)) {
        remove("No_Loop");
        if (!access("No_Loop",0)) {
            No_Loop=1;
        }
    }
    while (1) {
        sleep_ms(1000);
        if (No_Loop) break;//
        if (!access("No_Loop",0)) {
            No_Loop=1;
        }
    }
    sleep_ms(3000);
    Log("End=============================================================\n");
#ifdef WIN32
    DeleteCriticalSection(&cs_BBB );
    DeleteCriticalSection(&cs_HEX );
    DeleteCriticalSection(&cs_log);
#else
    pthread_mutex_destroy(&cs_BBB);
    pthread_mutex_destroy(&cs_HEX);
    pthread_mutex_destroy(&cs_log);
#endif
    return 0;
}
lm_whales 2014-08-14
  • 打赏
  • 举报
回复
有一个办法就是一个线程采集数据,多线程处理数据。 因为现在大部分电脑都是多核的,所以可以并行处理数据。 如果数据有某种规律,可以用GPU计算的话,效率更高,不过这个需要有个学习过程。 如果可以用硬件处理的话,可以把软件处理数据的部分转移到硬件上,硬件处理 硬件处理并行度更高
Cnwanglin 2014-08-14
  • 打赏
  • 举报
回复
采集线程 --> post event 到一个队列里 队列维护线程 --> 通知 --> 工作线程池 分配工作线程来完成
zhangyingjian11 2014-08-14
  • 打赏
  • 举报
回复
我在补充一下我的问题,我现在主线程在不停的采集数据, 比如说采集400组数据,每次采集数据都向处理线程发送一次事件,处理线程就开始处理本次事件对应的缓存, 但是现在问题是400组数据采集完后,处理结果只有396组数据,丢了4组, 我觉得是采集速度快,有事件发送了,但处理线程来不及处理每组数据才丢失的,不知道对不对,也不知道怎么解决,所请各位高手指点一下。
zhangyingjian11 2014-08-14
  • 打赏
  • 举报
回复
我是开辟缓存了,我就是有事件触发的时候处理缓存数据,但是现在问题是主线程不停的采集,而且采集速度快,数据量大,处理线程会累积事件,来不及处理所有缓存数据。
modyaj 2014-08-14
  • 打赏
  • 举报
回复
用缓存把采集到的数据存起来 处理的时候从缓存里面取出来处理!
passion_wu128 2014-08-14
  • 打赏
  • 举报
回复
你的瓶颈是处理数据的线程效率啊,当缓冲区满了就让采集数据的线程休息一会儿呗,典型的生产者和消费者问题。
robertbo 2014-08-14
  • 打赏
  • 举报
回复
不能启用多个处理线程吗?这样可以提高处理效率
zhangyingjian11 2014-08-14
  • 打赏
  • 举报
回复
多线程处理是什么意思?我现在用的就是一个线程采集,一个线程处理啊,能说具体点吗,我不太明白啊

64,662

社区成员

发帖
与我相关
我的任务
社区描述
C++ 语言相关问题讨论,技术干货分享,前沿动态等
c++ 技术论坛(原bbs)
社区管理员
  • C++ 语言社区
  • encoderlee
  • paschen
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
  1. 请不要发布与C++技术无关的贴子
  2. 请不要发布与技术无关的招聘、广告的帖子
  3. 请尽可能的描述清楚你的问题,如果涉及到代码请尽可能的格式化一下

试试用AI创作助手写篇文章吧