Настройка DNSMasq-адресов / внутренних IP-пар по портам?

это не то, что может сделать dnsmasq, потому что это не то, что может сделать сам DNS. TCP-порты только принять участие после поиск адреса был сделан. Поэтому, какой бы ни был один из Ваших хозяев example.com решает, должны быть в состоянии обрабатывать все из этих соединений-возможно, используя обратный прокси-сервер HTTP, где это возможно, или еще один уровень переадресации портов (iptables, PF redirect, &c.).

некоторые specific приложения хотя у них есть свои механизмы. Для порта 25 (server-SMTP) создайте MX запись, указывающая на другой домен. Если отправляющий почтовый сервер найдет его, он будет использовать только серверы, перечисленные в записи MX. (Вот как почти все домены перенаправляют свою почту на выделенный почтовый сервер или даже на почту Google.)

example.com.         MX 10 smtp-in.example.com.
smtp-in.example.com. A  10.0.0.25

для IMAP и client-SMTP (143, 993, 587) вам может повезти с созданием SRV-записей для каждой службы. Они похожи по назначению, но могут сказать приложению какой хост и какой порт использовать:

_imap._tcp.example.com.       SRV 10 0 143 mail.example.com.
_imaps._tcp.example.com.      SRV 10 0 993 mail.example.com.
_submission._tcp.example.com. SRV 10 0 587 mail.example.com.
mail.example.com.             A   10.0.0.143

или то же самое в извращенном синтаксисе dnsmasq:

mx-host=example.com,smtp-in.example.com,10
address=/smtp-in.example.com/10.0.0.25

srv-host=_imap._tcp.example.com,mail.example.com,143
srv-host=_imaps._tcp.example.com,mail.example.com,143
srv-host=_submission._tcp.example.com,mail.example.com,587
address=/mail.example.com/10.0.0.143

обратите внимание, что только некоторые программы заботятся о SRV записях. В то время как выше _imap &c. примеры технически стандартны, они все еще очень редко используются фактическими почтовыми приложениями. (Практически единственными распространенными пользователями SRV являются Kerberos, LDAP, SIP, XMPP и Minecraft.)