Jonatas, o black da transição pode ser porque você deve estar colocando o vídeo direto no link do menu em vez de colocá-lo nas propriedades do botão na aba transitions.

Pop-up

Em breve postarei passo a passo a criação de Menu Pop-up para Bluray.

Encore e Blu-Ray

Sou um editor que gosto muito de trabalhar com Adobe, principalmente para autorar DVD´s, mas agora com a tecnologia Blu-Ray, as coisas mudaram e existem inúmeros "Bug´s", e ou incompatibilidades, principalmente depois de finalizados. Um dos problemas está na hora de inserir um menu animado, vídeo ou direto do After Effects, ele não consegue finalizar apontando erros. Outro problema é a navegação no menu do player de mesa que encontra barreiras para se adaptar com o blu-ray autorado.  Creio que o Encore esteja passando por ajustes para garantir como sempre a perfeição de suas autorações, mas enquanto isso sofremos com os problemas.

Caso alguém tenha passado por algo semelhante comentem para que possamos trocar idéias sobre esses problemas e resolvê-los.