Если в /var/log/xrdp.log есть ошибка
[ERROR] Cannot read private key file /etc/xrdp/key.pem: Permission denied
То нужно добавить пользователя xrdp в группу ssl-cert:
# sudo adduser xrdp ssl-cert
и перезапустить сервис XRDP:
# sudo systemctl restart xrdp
Мне помогло.