Oi Pablo. Bom dia.
Você pode atingir seu objetivo criando uma regra que libere o tráfego necessário ao funcionamento do Messenger (HTTP, HTTPS), aplicando esta regra a um grupo de usuários.
Abaixo dela, crie uma regra semelhante. A diferença estará no filtro de HTTP. Você clicará com o botão direito nesta regra e selecionará a opção "Configure HTTP". Na tela de configuração do filtro, você clicará na aba "Headers" e no botão "Add..." para adicionar em "Request headers" o cabeçalho do Messenger a ser bloqueado. Para saber qual é o cabeçalho dele, você deve efetuar uma captura com o Wireshark ou Network Monitor.
Outro detalhe é que o Internet Explorer deve ter o ISA definido como webproxy e você deve usar o Windows Live Messenger acima da versão 8. Se não tiver, esta configuração não funciona.
Espero ter ajudado!
Um abraço!