Nos, a hiba nem a LyX-ben van, hanem a LaTeX-ben: a babel csomagban levő magyar.ldf elavult (1.4j), és ütközik az amsmath csomaggal.
A CTAN-ról letöltöttem az újabbat (1.5), az már nem ad hibát, de "1. tétel" helyett "1. Theorem"-et kapok. Hát, itt tartok most...