Te nem nagyítani szeretnél, hanem elbaszni a képarányt. Pontosabban fogalmazva az a feladat, hogy a meglévő filmet 16:9 képarányra (full HD tv-t feltételezve) kell croppolni, majd le kell kódolni.
ffmpeg -i -vf crop=1280:720 -c:v libx264 -c:a copy out.mkv
a crop filterben a 1280:720 helyett számold ki az értékeket az eredeti videó képaránya / felbontása függvényében.