Поставьте дополнение Console и проверьте в принципе отправку почты,
выполнив два отдельных кода:
1. Просто через функцию mail() print (int)mail('test@some.host', 'subject', 'message');
2. Через MODX: print (int)$modx->user->sendEmail('message');
Желательно, чтобы оба варианта вернули 1. Просто есть подозрение, что ваш сервер просто не отправляет почту.
Да еще модх не любит почту от mail.ru





Закрытие модального окна после отправки AjaxForm
$(document).on('af_complete', function(event,res) {
 if(res.success) $('.btn_close').click();
});