При отмене заказа вызывается метод changeStatusCanceled() у модели Shop_Order
Далее модель в методе вызовет для платежной системы
$oShop_Payment_System_Handler->changedOrder('cancelPaid');
В типовом хэндлере платежки Shop_Payment_System_Handler заданы статусы, при которых высылаются уведомления:
protected $_notificationModes = array('changeStatusPaid', 'edit');
если вы в своих обработчиках платежных систем (которые унаследованы от Shop_Payment_System_Handler) добавите
protected $_notificationModes = array('changeStatusPaid', 'edit', 'cancelPaid');
то письма начнут присылаться