No pueden mezclarse memorias de velocidad diferente en una maquina, ni tan siquiera, aunque sean de la misma velocidad, que tengas diferente latencia a la ya instalada (por eso se indica que todos los modulos deben ser identicos y del mismo fabricante).
El no hacerlo, en el mejor de los casos es lo que te sucede a tá. Lo normal son pantallazos azules y cuelgues constantes de la maquina a nivel hardware.
Un saludo,