"...Сколько максимально можно установить в системе виртуальных плат?..."
Программное ограничение - 99 штук. Но это чисто формальное ограничение: можно попробовать создать такое количество, но использовать не получится.
Реально количество виртуальных плат зависит от производительности сервера (процессор, оперативная память и т.д.), разрешения и типа сжатия IP-потока. Кроме того. не следует забывать, что ресурсы сервера используются не только для кодирования IP-потока, но и для работы программы OnAir3 (воспроизведение видео файлов и титров).
В настоящее время можно считать, что на одном сервере можно обработать не более 10 каналов вещания в SD-разрешении с декодированием входного потока и кодированием его после врезки рекламы/собственных передач и титров. В HD-разрешении количество каналов будет примерно в два раза меньше.