gibst du den FQDN oder nur den NetBIOS Namen in der URL ein? So hab ich ab und zu mal Probleme unabhängig vom Securechannel.
Probiere auch mal folgendes, wenn das Stammzertifikat nicht drin, du die Webseite aufrufst, kannst du dir das nicht vertrauenswürdige Zertifikat des Webservers anzeigen lassen und in den Benutzerspeicher für Vertrauenswürdige Stammzertifizierungsstellen
importieren.
Was kommt dann raus wenn du es erneut probierst?
Wie sieht es aus wenn du das Webserverzertifikat selbst zu den Vertrauenswürdigen hinzufügst?
XP ist aktuell (SP und IE)?
Im IIS sind keine speziellen Auth. Einstellungen die nur Domänen so erfüllen können? (auch wenn ich das aufgrund deiner Fehlerbeschreibung nicht glaube)
Mehr fällt mir als Denkansatz nicht ein.
Hast du Logging aktiviert? Was sagt das Logfile und System32\logfiles ?
Viel Glück