Nem kifejezetten a kérdésre válaszolok, de a tapasztalat azt mutatja, hogy egyre több a titkosított torrent kapcsolat, ezért a szűrés csaknem lehetetlen (de minimum nehézkes), még layer7 szinten is. Arról nem is beszélve, hogy minél magasabb OSI rétegben van a szűrés, annál inkább erőforrásigényes.
Az egyetlen garantáltan működő megoldás, ha DROP policy-t vezetsz be az OUTPUT láncon (is), és utána csak azokat a portokat engedélyezed kifelé, amelyeket valóban ki akarsz engedni (pl. 80,443,995,21 stb).
Ezzel sajnos keresztbe teszel (többek között) a passzív FTP-nek, de ezen segíthez a conntrack_ftp modul használata (nem használtam még):
http://unix.stackexchange.com/questions/93554/iptables-to-allow-incomin…