"...Цифровых, аналоговых или SDI-входов нет. Отдавать по SDI не планируется. Вещание только в сеть на единственного клиента. Для формирования потока есть видео карта gtx1650. Её можно использовать?..."
Да, можно.
Список видеокарт с поддержкой кодирования по технологии NVENC здесь (раздел NVENC - Encoding).