У меня:
CommTimeOuts[0] = MAXDWORD; // ReadIntervalTimeout
CommTimeOuts[1] = 0; // ReadTotalTimeoutMultiplier
CommTimeOuts[2] = 0; // ReadTotalTimeoutConstant
CommTimeOuts[3] = 1; // WriteTotalTimeoutMultiplier
CommTimeOuts[4] = 1; // WriteTotalTimeoutConstant

Ну и в _отдельном_ треде:

Sleep(10);
ReadFile(...);

Читает без ожидания всё, что успело накопиться в буфере за 10 мс.

Правда потом это пихается в фифо, а главная прога оттуда неторопясь забирает.