Guten Abend,
ich hatte einen sehr ähnlichen Ablauf wie du.
Am Ende war der sinnvollste Aufbau eine 7590(ax) als DSL Modem (die neuen Modelle haben im VDSL 35b Profil Bereich einfach die beste Performance) mit einer klassischen PPPoE Einwahl als erstes Gerät einzusetzen. In der Box dann die UDM-SE als Exposed Host deklarieren um diese öffentlich erreichbar zu machen (wenn man das will).
Hier musst du nur beachten, dass im Wireguard o.ä. nicht die private IP der UDM als Endpoint im cfg File hinterlegt ist.
Das Thema Double NAT wird auch bei AVM recht ausführlich beschrieben und bedarf ein wenig Fingerspitzengefühl.
Außerdem solltest du alle Fritzboxen die als APs verbaut sind, rausschmeisen und mit Unifi APs ersetzen um das volle Featureset im WLAN auszunutzen(MESH, Hand-over,usw.).
Zum grundsätzlichen Aufbau solltest du verstehen, dass dein WAN Port an der UDM im Adressbereich der Fritzbox sein soll. In deinem Fall 192.168.100.x. Danach kannst du an allen LAN Ports mit deiner gewünschten 178.x config weitermachen.
Um deine Clients sinnvoll zu separieren solltest du dann verschiedene WLAN Netze in verschiedene Usergruppen packen. Dazu gibt es einige sinnvolle Videoanleitungen auf Youtube.
Hier noch ein paar Screenshots die dir eventuell helfen könnten: