"...Как убедиться, что используется аппаратное ускорение для кодировании IP-потока?..."
Будем считать, что предварительно всё было сделано для использования возможности аппаратного кодирования (установлены драйверы, включена возможность использования встроенной графики процессора и т.д.).
Для каждого типа аппаратного кодирования (IQSV - на встроенной графике процессора, NVENC - на видеокарте) существует своя собственная лицензия. Если про настройке кодирующего узла в графе появится сообщение об отсутствие лицензии, то значит данный тип аппаратного кодирования у вас отключён.