Az miért jó, hogy mail proxynak egy nem mail proxyt akarsz használni? Az nginx nagyon jó HTTP(S) reverse proxynak, de IMAP-ra meg SMTP-re nem való.
Léteznek erre a feladatra alkalmas cuccok, amik valóban mail proxyk. Azokkal lenne érdemes kísérletezgetni: IMAP-ra teljesen jó a dovecot (POP3-ra is, de ott inkább a protokollt nem nagyon kéne már erőltetni így 2022 táján...), SMTP-re meg egy rendes MTA-t kéne használni.