Hola,
Para poder ocultar un subgrid puedes usar el siguietne codigo
var jj_subGrid = Xrm.Page.ui.controls.get("jj_ContactsGrid");
// For hiding
jj_subGrid.setVisible(false);
// For Showing
jj_subGrid.setVisible(true);
// For Checking If it is Visible or Hide
jj_subGrid.getVisible();
Para abrir nuevos formularios, puedes uasr XrmUtility más informacion en el siguiente link
https://msdn.microsoft.com/en-us/library/jj602956.aspx#BKMK_OpenEntityForm
Salu2 Atilin | http://www.dexrm.com