Hallo Zusammen.
Meiner Meinung nach bekommt der PiHole eine separate IP. Sonst wüsste doch die Synology gar nicht, wo sie den DNS hernehmen soll. Meine Empfehlungen. Erstmal die UDM DNS UND DHCP machen lassen!!! Die IP im NAS kann ja ruhig fest vergeben werden.
DNS ggf. dann manuell auf die 1.1.1.1 oder was auch immer umstellen oder gleich in den WAN Einstellungen in der UDM auf 1.1.1.1 oder 8.8.8.8 ändern. Docker ist sicherlich eine schöne Sache, aber bei manchen Anwendungen (wie bei PiHole) ein unheimlich "Gefrickel" damit sich die Synology nicht in die Quere kommt. Hier dann eher meine Empfehlung: 70 Euro investieren und eine RasPi holen und dort PiHole installieren.
Zum Schluss kommt die Problem evtl. daher - wie schon mehr oben geschrieben - das sich die UDM UND die Synology um das DNS und DHCP "prügeln". Dann stockt es natürlich.