Чтобы энкодер срабатывал _всегда_ посредине напротив защелки - он должен быть соответсвующим образом механически устроен. Ваш алгоритм переключал по тем же фронтам, но не при выходе из состояния StateAB, а при входе в него. В принципе можно сделать так, чтобы он срабатывал по обеим фронтам, но не более чем на +-1 на оборот. Наплевав на дребезг. Но мне это кажется стрельбой из пушки по воробъям, так как эти энкодеры предназначены для перещелкивания между состояниями фиксации, и поэтому точное место переключения не должно быть существенно.