Antes de tudo você precisa saber sua taxa de upload, entre no site do link abaixo para testar sua taxa de upload.
http://speedtest.copel.net/ 
clique em "iniciar teste" aguarde, lado esquerdo resultado de download, lado direito resultado de upload.
ATENÇÃO: para você obter o resultado correto do seu upload, você não pode estar navegando e nem usando nenhum programa conectado à internet no momento do teste.

A internet é dividia em duas funções download e upload.

Download:  é usado quando você está baixando arquivos, navegando e assistindo, resumindo: quando está recebendo da internet.
Upload: é o contrário, usado quando você está enviando algo pela internet, resumindo: fornecendo vídeos ou outros arquivos

O que importa no caso de streaming é a taxa de upload, você pode ter uma internet muito veloz para navegar assistir vídeo alto download, sem upload nada adianta.

Estou explicando isso porque acontece muito do cliente não entender porque a internet dele é veloz, mas quando vai transmitir streaming é ruim. Resumindo: sua internet pode estar voando na navegação, mesmo assim pode ter uma deficiência no upload e você tem que reclamar com seu provedor.

Não se assuste pelo fato da taxa de upload ser bem inferior a de download isso é normal na internet DSL, rádio e 4G, apenas link dedicado tem a taxa download e upload iguais ou semelhante.

Agora vamos entender como configurar o kbps no vMix, abra o vMix 
clique no desenho da engrenagem, onde eu marquei de vermelho na imagem acima.

Existe dois tipos de aplicação em transmissão >> FFPEG vs FMLE, é muito difícil dar uma visão técnica de qual é melhor, porque isso é uma questão de gosto, na internet você vai encontrar fãs de ambos, então faça as suas experiências e chegue as suas próprias conclusões.

FFMPEG usa bem menos CPU do que o FMLE (processador fica bem mais suave).
FMLE tem menos latência do que FMLE.
FFMPEG tem melhor qualidade do que o FMLE (isso é a minha opinião, algumas pessoas podem falar ao contrario).
FFMPEG salva o arquivo de fluxo, de modo que ele registre automaticamente na qualidade do fluxo.

FMLE é mais estável em conexões ruins. (eu realmente vivi isso na pratica, pessoas com internet precárias teve mais estabilidade em FMLE, eu percebi que o FMLE tem uma inteligência artificial bem interessante, quando a internet oscila ele ignora os kbps que foram configurado e baixa a qualidade e o consumo de uso de upload junto com a oscilação para não deixar cair a transmissão, e quando a internet estabiliza ele volta para o kbps configurado) ... Resumindo FMLE a transmissão só cai se a internet cair totalmente. Você vai reparar isso que eu disse em uma internet ruim, porque quando acontecer a oscilação, o FMLE vai deixar a imagem quadriculada, isso acontece porque ele reduziu o kbps para não perder o sinal.

Observação: quando você fazer múltiplas transmissão o delay aumenta um pouco, isso não é culpa do FFMPEG, é devido o aumento dos processos, a carga na rede e maior.

Uma internet que suporta uma transmissão em 300kbps em FMLE, a mesma internet em FFMPEG vai suportar 800kbps, isso não quer dizer a qualidade de FFMPEG é muito superior, porque uma transmissão em 300kps em FMLE fica uma ótima imagem, e FFMPEG eu só acho bom a partir de 800kbps, e complicado ficar fazendo todas comparações apesar de ter a mesma finalidade são tecnologias bem diferentes.

Observação: facebook e youtube mesmo que você coloque FMLE em seu vMix, sua transmissão vai ser FFMPEG, antes do vídeo ir ao ar, ele passa por um filtro dentro na plataforma do facebook que transforma todos os vídeos em FFMPEG.

Clique novamente no outro desenho de engrenagem, como mostra a imagem acima.

Na tela que abrir, o local que eu marquei de vermelho na parte de cima é onde se coloca os kbps,  vídeo e áudio, observe apenas os locais onde eu marquei de vermelho, vou explicar cada campo.

Vídeo Bit Rates = o kbps do vídeo, o valor colocado aqui depende da taxa do seu upload.
Menos de 0.39 kbps de upload acredito que você não vai conseguir transmitir, você praticamente não tem upload.
A partir de 0.40 mbps coloque no máximo FMLE100kbps ou FFMPEG230kbps = internet está péssima, pode dar umas travadas.
A partir de 0.90 mbps coloque no máximo FMLE130kbps ou FFMPEG250kbps = a internet ainda não está boa, mas dá para usar.
A partir de 1.20 mbps coloque no máximo FMLE180kbps ou FFMPEG400 = uma boa internet, mas não abuse.
2.10 mbps este valor ou acima é uma ótima internet, pode colocar FMLE300kbps ou FFMPEG800kbs
mesmo que você tenha poder aquisitivo para contratar um link dedicado ou reside em um bairro privilegiando onde o Dsl ou a Fibra são ótima e tem uma super taxa de upload, eu não recomendo usar mais que FMLE300kbps ou FFMPEG800kbps, continue lendo que eu explico porquê logo abaixo.

Audio Bit Rates = kbps do áudio, a tecnologia de áudio AAC surgiu para revolucionar a transmissão de streaming, porque míseros 32kbps AAC é igual a 128kbps de mp3.
Com isso eu consigo manter um ótimo áudio deixando a transmissão bem leve, com o surgimento do AAC eu não preciso me preocupar com o peso do áudio, o que o áudio consumia em upload na época do mp3, hoje eu uso no vídeo. Se você quiser subir mais que 32kbs de áudio, tipo uns 48 kbps fique à vontade, mas não recomendo, acho um peso desnecessário. (Se colocar um valor alto em áudio, vai estar pesado sua transmissão com algo que não serve para nada).

Observe o local abaixo onde eu também marquei de vermelho “format” você deve selecionar AAC.
Jamais selecione mp3 nesse local, além de ser muito pesado, sua transmissão não vai funcionar em aparelho móvel.

Após terminar a configuração você salvar, assim você não precisa fazer tudo de novo quando fechar e abrir o programa novamente. Salve as duas telas como mostra a imagem abaixo.

Resumo: onde eu compartilho com você minhas experiências e testes com transmissão ao vivo.

Muita gente acredita que quanto mais kbps colocar melhor fica a imagem, com toda minha experiência posso afirmar que esta teoria é errada.

kbps é importante logico que pouco a imagem vai ficar quadriculada, mas o kbps não é responsável por tudo.
Resumindo: Os vídeos bem gravado em HD boa iluminação, vai ficar bom mesmo com pouco kbps, agora os vídeos que é ruim nunca vai ficar bom, mesmo que você coloque muito kbps.

Olhando para realidade da internet Brasileira eu não recomendo transmissão com muito kbps.
Efeito colateral de uma transmissão com muito kbps.
1º Você vai pesar sua internet, e não vai conseguir usar para outras coisas.
2º Você vai expulsar as pessoas que acessar sua transmissão com 3G e 4G, pois estes planos tem limite de dados e sua TV vai consumir todo o plano do espectador, isso vai irritar muito ele.
3º Se o seu alvo é atingir todas as regiões, leve em consideração que muitos bairros do Brasil tem internet precária.
4º Seu site vai demorar mais para chamar a transmissão quando o espectador abrir.

Nota final: quanto mais equilíbrio você ser capaz de balancear melhor vai ser sua TV, ou seja abaixar o kbps até o ponto que a imagem não fique quadriculada.

A vezes você tem uma imagem de transmissão ótima no tamanho padrão da tela no site, mas perde um pouco de qualidade quando clica em tela cheia, isso é normal porque os pixel abriu, mas eu recomendo que sua referência seja o tamanho padrão, internet não é TV tradicional, poucas pessoas assisti com tela cheia.

Eu costumo dizer que mundo de TV streaming é um laboratório infinito, todo dia eu descubro uma coisa nova.