Ha jól értem, akkor annak amit tapasztalsz "tearing" a neve. Amit pedig az okoz, hogy pont akkor vált a kép két kocka között, amikor a monitor frissíti a képet, ezért az egyik képkockát látod a monitor tetején, a másikat meg az alján.
Sajnos fglrx-nél ez egyes kártyatípusoknál így van XVideo-t használva. Megoldás lehet, ha XVideo helyett gl-t használsz. Például mplayer -vo gl valami.avi. Ja, és ne felejtsd el beállítani amd control panelben a more settings-nél a "wait for vertical refresh"-t "on, unless application specifies"-ra.