Ich würde hier noch nicht an Time Machine selbst „reparieren“, sondern zuerst die SMB-Verbindung zum Synology-NAS prüfen.
Öffne im Finder Gehe zu > Mit Server verbinden und verbinde dich direkt mit dem freigegebenen Ordner auf dem NAS, den du für Time Machine eingerichtet hast. Wenn du dich dort mit dem dafür vorgesehenen Synology-Benutzer anmelden und eine kleine Testdatei in den Ordner kopieren und wieder löschen kannst, funktionieren Netzwerk, Anmeldung und Schreibrechte grundsätzlich.
Falls schon das nicht klappt, liegt das Problem eher bei SMB, Benutzerrechten oder einer Sicherheitssoftware und nicht bei Time Machine.
Da du Firewall und Security-Software erwähnst, würde ich anschließend testweise nur die zusätzliche Security-Software kurz deaktivieren und ein Backup starten. Die macOS-Firewall würde ich zunächst unangetastet lassen. Funktioniert es dann, weißt du zumindest, in welcher Richtung du weitersuchen musst.
Auf dem Synology-NAS sollte außerdem SMB aktiviert und der betreffende freigegebene Ordner ausdrücklich als Time-Machine-Ziel eingerichtet sein. AFP würde ich für eine neue Einrichtung nicht mehr verwenden.
Falls der Zugriff im Finder problemlos funktioniert, Time Machine aber weiterhin mit „Backup kann nicht abgeschlossen werden“ abbricht, wäre die genaue vollständige Fehlermeldung der nächste wichtige Hinweis. Daraus lässt sich meistens recht gut unterscheiden, ob es um Berechtigungen, Speicherplatz, die Netzwerkverbindung oder das vorhandene Backup-Image geht.
Apple empfiehlt bei nicht möglichen Time-Machine-Backups ebenfalls zuerst zu prüfen, ob das Backup-Volume unterstützt wird, erreichbar ist und genügend Speicherplatz vorhanden ist.
Zum Nachlesen: Apple Support, „Backup-Volumes für die Verwendung mit Time Machine“ sowie „Erstellen von Backups oder Wiederherstellen des Mac mit Time Machine nicht möglich“.
Wenn du die genaue Fehlermeldung hier noch nachreichst, lässt sich der nächste Schritt wesentlich genauer eingrenzen.