"...Можно ли каким-нибудь образом писать файлы HD в FDCapture кодеком H.264? Пишем MXF, но не очень удобно - очень большой размер файлов..."
В FDCapture такой возможности нет и не будет.
Возможность записи со сжатием AVC (H.264) есть в платных продуктах:
Плагине SLStreamCapture
Системе записи SLIngest
Можем предоставить временную лицензию для тестирования перед приобретением. Сообщите номер платы (физической или виртуальной) или HASP-ключа в отдел продаж: sales@softlab.tv. Как посмотреть номер описано здесь. Временная лицензия бесплатная, предоставляется сроком на 3 месяца.