Valóban nem egyszerű téma.
Ha két linux néz egymással farkasszemet, akkor pl ugyan azt az openswan konfigot lehet alájuk tolni. Alapvetően a túloldali konfigot ismerni kell. Egy vpn összelövésekor eleve bizonyos bizalomnak kell lennie a két fél között. Itt nézz körül: http://wiki.openswan.org/
Másrészt alap tudnivaló, hogy az ipsec milyen porton és protokollon kommunikál. Általában az 500-as UDP porton zajlik a forgalom és ebbe van becsomagolva titkosítva az értékes adat. A tcpdump kimenetében magát a "gazda" kapcsolatot lehet látni általában ESP (encapsulated payload)-ként megjelölve.
A kapcsolatról a logokból illetve az "ipsec auto status" és társaiból tudhatsz meg többet.