Gondolom, valami soft modemet csináltál. Ahhoz még a mikrokontrollerek belső RC oszcillátora is megfelelő, a kvarcok frekvenciájának változása elenyésző, nem itt keresném a hibát. Akkor sem, ha mondjuk a mellette lévő 22 pF-os kondenzátor kapacitása 21.87 pF-ra csökkent, mert nam tudja jelentősen elhúzni a kvarc frekvenciáját.
Vagy a video/CPU versenyhelyzet problémájába futottál bele, vagy valami megszakítás, efféle. Ahhoz kevés az infó, hogy abból ezt meg lehessen sejteni.
A két NOP az rengeteg idő, mert ez nyilván nem óránként két NOP, hanem néhány 10 vagy 100 µs-onként, s ott arányokat nézve elég jelentősnek tűnik.