Erstmal vielen Dank an alle Antworten!

Zum Rekapitulieren: Alle lokalen Endgeräte senden 1. an den Default-Gateway (Speedport Router), welcher die private IPhat. Sobald die Datenpakete dort angekommen sind, wird 2. IM Router an das nächste Gateway, diesmal das mit der öffentlichen Ip Adresse weitergeleitet. Von dort geht es dann raus in die weite Welt. Korrekt?

"Da die Router ihn ja erreichen müssen, darf es natürlich keine private IP Adresse sein." 

Wer muss hier was erreichen? Lokal erreichen ja alle Geräte meinen privaten Default Gateway. Öffentlich aus dem Internet wird der Router über meine WAN-IP erreicht (?) Bleibt nur noch der Weg innerhalb des Routers vom 1. Gateway (private IP) an den 2. Gateway: Dafür braucht dieser Zweite dann eine öffentliche IP (auch wenn wir uns physisch gesehen im selben Gerät befinden), korrekt?

Dann bleiben nur noch zwei blöde Fragen dazu: 1. Warum kann man nicht von der privaten Gateway IP gleich ins Internet? Weil die Kommunikation nur zwischen jeweils zwei öffentlichen IPs direkt funktioniert? 2. Warum braucht es zwei öffentliche IPs, je eine auf der Sender-Seite (2. Gateway) und eine auf der Empfänger-Seite (Wan-IP)? Könnte man da nicht nur eine nutzen?

Dein Router bekommt eine Öffentliche IPv4 zugewiesen. Diese IP ist auf Telekom-Seite einem Gateway zugeordnet (deine Öffentliche IP muss ja einen "Weg" in das Internet haben). In einem Traceroute z.B. die IP des 2. Hop das Gateway.

Du musst Dir das so vorstellen:

- Jeder Layer 3 Netzwerkknoten funktioniert mehr oder weniger gleich, egal ob das Dein PC, dein Router oder irgend ein Router bei der Telekom ist.

Ein Netzwerkgerät hat meist mehrere Schnitstellen (Anschlüsse) über jeden dieser Anschlüsse erreicht es unterschiedliche Netze. Diese sind durch die eigene IP auf diesem Interface und die Subnetzmaske definiert.. Die Subnetzmaske sagt nur aus wieviele bits der 32bit ipv4 (die schreibweise 123.123.123.123 ist einfach nur eine leserliche schreibweise einer 32bit Zahl) "maskiert" sind. Alle bits die maskiert sind sind fix, die dahinter variable und alle adressen die in den fixen bits mit deiner IP übereinstimmen gehören zu einem Netzwerk welches direkt über die Schnitstelle (Netzwerkanschluss) erreichbar ist.. 

Wenn dein PC nun z.B. an zwei Netzwerken hängt
IP in Netzwerk A: 192.168.0.15 Subnetzmaske 255.255.255.0 (/24)
IP in Netzwerk B: 10.123.0.6 Subnetzmaske 255.255.0.0 (/16)

Und Du jetzt z.B. einen anderen PC mit der IP 10.123.0.136 erreichen möchtest, muss dein Computer irgendwie entscheiden über welche Anschluss er diesen PC erreicht. Dafür gibt es die Routingtabelle. Da steht drinnen, dass das Netz 10.123.0.0/24 eben auf Anschluss B liegt. Somit leitet dein Computer das Paket direkt über Anschluss B an 10.123.0.6 weiter.

Wenn du nun hingegen z.B. die Adresse 85.236.204.146 oder sowas erreichen möchtest, liegt die in keiner Der Netze (A oder B in unserem Beispiel) in der Routingtabelle. Hier kommt das "default gateway" ins Spiel.. Das ist einfach nur eine Regel in der Routingtabelle mit sehr niedriger Priorität (oft können Netzwerke über mehre Schnitstellen erreicht werden, deshalb gibt es widersprüchliche Regeln und dann zählt die Priorität (Metrik genannt)) die einfach sagt hey Netzwerk 0.0.0.0/0 (also kein Bit Maskiert) erreichst du über 192.168.0.1 auf Anschluss A oder so. Dein Computer schickt dann das Paket auf Anschluss A raus und adressiert es auf einem layer niedriger an die Adresse von 192.168.0.1 (MAC-Adresse).

Private / Öffentliche IPs
Das Problem bei IPv4 ist, dass Sie nur 32bit lang sind. Es gibt also nur eine begrenzte Anzahl an IPs weltweit.. In einer idealen Welt hätte jedes Gerät eine weltweit eindeutige IP.. Das ist jedoch nicht so und die Telekom gibt Dir für deinen gesammten Anschluss nur eine IPv4.
Es gibt reservierte Bereiche die man innerhalb eines privaten Netzwerkes einsetzen kann so z.B. 192.168.0.0 bis 192.168.255.255 und 10.0.0.0 bis 10.255.255.255 und noch ein paar weitere kleine.
Diese IPs gibt es auf der Welt doppelt, da jeder Sie einfach in seinem Netzwerk frei verwenden kann.
Um das ganze zu umgehen setzet man eine Technik names NAT ein (Network Address Translation).
Hier tut Dein Router nach außen hin so als würdest Du mit deiner einen öffentlichen IPv4 die dir die Telekom zugewiesen hat mit dem anderen Teilnehmer reden, er ersetzt also an deinem Paket das Du z.B. mit Absender 192.168.0.3 verschickt hast den Absender mit der öffentlichen IPv4 keine ahnung 85.123.123.123 z.B. der Server / Computer auf der anderne Seite antwortet dann auch auf 85.123.123.123. Dein Router ersetzt dann die Zieladresse in der Antwort wieder auf Deine internet IP up 192.168.0.3 und schickt es an deinen PC weiter. Der DSL Router merkt sich welche Verbindungen von wem geöffnet wurden (anhand der Portnummer und internen Ip) um die Antworten des entfernten Servers wieder den richtigen Teilnehmern im eigenen Netz zuzuordnen.
Such einfach nach: NAT / Network Adress Translation

NAT möchte man nicht machen eigentlich, deshalb gibt es IPv6, dort sind die Adressen 128bit statt 32bit lang, sprich 2^128 Adressen, dass sind so viele Adressen, dass Sie nie ausgehen werden vermutlich. Hier kann man dann Jedem einzelnen PC, Sensor, Handy whatver eine eigene öffentliche IPv6 geben und kann komplett auf NAT verzichten..
In dem Fall gibt dir dein Provider auch nicht nur eine Adresse sondern immer gleich einen ganzen Block mit 1000den oder deutlich mehr Adressen..