So habe es mal so wie @wari1957 geschrieben hat getestet. Wenn ich etwas übersehen habe melde dich bitte.

habe dann mal meine Digitalisierungsbox abgeklemmt und einen Speedlink 5501 in Betrieb genommen.

Interne Rufnummer 10 für analog angelegt

Interne Rufnummer 11 für ISDN angelegt

Eine MSN in Betrieb genommen und diese den Nebenstellen zugeordnet

Telefonanlagenmodus  eingeschaltet und bei Anklopfen (CW) den Hacken raus.

Bei ISDN Telefon die interne Rufnummer 11 zugeordnet und Anklopfen auf aus geschaltet.

bei ersten eingehenden Anruf klingeln beide Geräte

bei zweiten eingenden Anruf KEIN Besetzeichen und es klingelt 

Analoge  Schnittstelle deaktiviert beim zweiten Anruf kommt das gewünschte Besetztzeichen.

Analoge Schnittstelle aktiviert und ISDN Stecker gezogen beim zweiten Anruf kommt das gewünschte Besetztzeichen.

Mein Ergebniss:

Es funktioniert nicht mit ISDN und Analogen Geräten zusammen.

 Eine Möglichkeit  sind unterschiedliche. Rufnummern einzurichten. 

Beste Möglichkeit eine Digitalisierungsbox zu kaufen die eine vollwertige Telefonanlage für ISDN und Analoge Telefone ist.