"...Можно ли использовать процессоры AMD в качестве альтернативы для плагина SLStreamCapture?..."
Да, можно. Они ничем не уступают аналогам от Intel.
Преимущество процессоров Intel состоит в возможности аппаратного сжатия данных на встроенной графике (технология Intel Quick Sync Video) при записи. Это значительно разгружает процессор. Особенно это важно, если запись и вещание идёт на одном и том же сервере.
Описание настройки с использованием аппаратного ускорения описано здесь. Запись ведётся в контейнере mp4.
Аппаратное ускорение при записи на встроенной графике процессоров AMD мы не поддерживаем.