"nem értem, hogy hogyan lehetne megadni az actionban az IP-t, amit ki kellene tiltani?
Miért kellene a fix konfigban megadod egy változó paramétert? A filter konfigban nek megfelelő helyen lévő <HOST> változó helyettesítődik a logban talált IP-vel, majd ezt a változót használja fel az action a <ip> helyén.
"Sőt találtam egy ilyen actiont hostsdeny, ez azt jelenti, hogy végleg kiüti a betolakodót?"
Nem. A hosts.deny működéséről lásd: man hosts.deny.
Nem értem a kérdést. Mit szeretnél pontosan? Mire célzol a végleg szóval?