"...Какую посоветуете видеокарту для кодирования IP потока в AVC?..."
Здесь список видеокарт с поддержкой технологии кодирования NVENC:
Если будете кодировать один-два потока в SD/HD разрешении, то можно использовать какую-нибудь модель GeForce GTX. Мы в своё время для тестов брали 1070/1080
Если потоков нужно больше, например, для формирования полноценного HLS (SD/HD), то тогда нужно брать что-то вроде NVidia Quadro P2000.
Для кодирования в Ultra HD 4K разрешении мы используем NVidia Quadro P2000.
Здесь список с расшифровкой числа потоков у разных моделей видеокарт.