Kösz a választ. Javítottam a konfiguráción. A 25-ös porton opcionális a titkosítás és az auth (ha authentikál, akkor megengedett a mail relay), az 587-esen viszont kötelező a TLS (ha authentikál is, akkor megengedett a mail relay). Így nem open mail relay a szerverem, viszont tud bárhogyan fogadni domainre érkező leveleket.