Este é um problema que ocorre ao tentar capturar o som do Rocksmith 2014 com o OBS, seja para gravação ou para transmissão. É um problema que ocorre pela forma que o Rocksmith acessa a interface de som de modo exclusivo, com o objetivo de reduzir a latência que pode tornar o jogo impraticável.
A solução que eu estou usando é a mais simples: dentro do jogo, desabilito a opção de uso exclusivo do áudio. Após fazer isso é necessário fechar o jogo e abrir novamente. Outra alternativa é editar o arquivo Rocksmith.ini que fica no diretório do jogo e ajustar a variável ExclusiveMode para 0:
'ExclusiveMode=0'
Se o jogo exibir mensagem que não há dispositivo de saída de áudio, é necessário verificar se o dispositivo está com a saída configurada para 48000 Hz, pois com valores diferentes ele não funciona. A minha Topping DX3Pro+ suporta até 384000 Hz e eu costumo deixar a minha em 96000 Hz ou mais. Precisei alterar.
Se o som ficar ruim ou apresentar latência existem soluções mais complicadas que envolvem um mixer virtual como o VoiceMeeter, mas não testei pois não percebi nenhuma latência com a Topping DX3Pro+.
Confira um vídeo do Rocksmith 2014 com o áudio capturado perfeitamente: