Посыпаю голову пеплом. У меня было сделано неправильно, действительно если дёргать туда-сюда, насчитывал вперёд. Переделал. Получается, что решение надо принимать по последним 5 (!) состояниям. Иначе болтанка в пределах 3 фаз будет давать приращение.
Вот новый код, получилось значительно компактнее

biphali: ///////////  bi-phase  driver
	  // calls from main in fast cycle
	  // 

	ldi	tmp1,$c0
	sbis	BI1PORT-2,BI1BIT
	cbr	tmp1,$40
	sbis	BI2PORT-2,BI2BIT
	cbr	tmp1,$80
	eor	tmp1,biphase		; <1> = B2B1 0 0  0 0 0 0
	cpi	tmp1,$40
	brlo biret			; return if B1B2 readed same as prev. saved


	eor	tmp1,biphase	;  restore <1>
	sbrc	tmp1,6
	rjmp bish		;  --> 1 or 3
	lds	tmp2,bico	
	mov	tmp3,biphase
	brne bix0	
	cpi	tmp3,$b4	; 0132,0 backw	(biphase= 10 11  01 00)
	brne bish
	dec	tmp2
	rjmp bis0
bix0:	cpi	tmp3,$1e	; 2310,2 forw	
	brne bish
	inc	tmp2
bis0:	sts	bico,tmp2
bish:	lsr	biphase	; <1> --> biphase
	lsr	biphase
	or	biphase,tmp1

biret:	ret

Спасибо за участие.