когда работаете с байтами (или любым типом, короче "родного") нужно помнить, что часто происходит неявное преобразование типов. Например, в следующем коде IF не выполнится НИКОГДА:

#define ABC 1
...
BYTE x = ...
...
if (x == (~ABC))
{
...
}