1° vMix não mostra imagem da câmera, tela do vMix fica preta.
2° Aparece imagem normalmente, mas preto e branco, não fica colorida.
3° Aparece imagem esverdeado.
3° Aparece imagem com linhas horizontais ou verticais.

A causa desse erro é acasalamento errado
Exemplo: Se você vai trabalhar com NTSC, tudo tem que estar configurado em NTSC

Você não pode misturar NTSC com PAL

Ou você trabalha com tudo no formato NTSC, ou trabalha com tudo no formato em PAL, nunca misturado.

Exemplo de forma certa >> trabalhando em NTSC
vMix configura NTSC + Placa de captura NTSC + Câmera em modo NTSC
Tudo configurado em NTSC

Exemplo de uma forma certa >> trabalhando em PAL
vMix configura PAL + Placa de captura PAL + Câmera em modo PAL
Tudo configurado em PAL

Exemplos de formas erradas >> misturado NTSC com PAL
vMix configura NTSC + Placa de captura NTSC + Câmera em modo PAL
vMix configura NTSC + Placa de captura PAL + Câmera em modo NTSC
vMix configura PAL + Placa de captura NTSC + Câmera em modo NTSC
misturado PAL com NTSC

O mesmo vale para configuração do formato do tamanho

Exemplos de uma forma errado
Câmera 720X480 + vMix 1920x1080 e + Placa de captura em 1920x960
Você não pode configurar cada dispositivo e software em um formato diferente.

Exemplo de uma forma correta
Câmera em 1920x1080 + vMix 1920x1080 e + Placa de captura em 1920x1080
É claro que o tamanho dos valores do formato acima é apenas um exemplo, você pode usar o formato que você quiser, desde que esteja em todos disposto e software a mesma configuração.