Я без домена почтовик завел. В домене мне нет смысла. Только ДНС настроил. Пользователя заводил на почтовом сервере через консоль (adduser, passwd, pdp-ul..., faillog с параметром до 999). Также пробовал через графику. Результат одинаков, как описывал.