Hallo jochen83,
die Musik App lässt sich nicht löschen.
Dazu schreibt Apple folgendes:
Wenn eine App sich nicht in den Papierkorb verschieben lässt: Du kannst mit dem Finder keine Apps löschen, die von deinem Mac benötigt werden, z. B. viele der von macOS installierten Apps.
...aus: Apps auf dem Mac deinstallieren - Apple Support (DE)
Jedoch könntest du mit den Punkten aus diesem Apple Support Artikel verhindern, dass Apps sich ungewollt öffnen: Verhindern, dass Apps und Fenster auf dem Mac wieder geöffnet werden - Apple Support (DE)
Für die Tatsache, dass du die Musik App nicht löschen kannst, kannst du Apple gerne ein Feedback hinterlassen.
Das machst du am Besten hier: Product Feedback
Auch wenn die Feedback-Seite auf Englisch ist, Feedbacks die in deutscher Sprache geschrieben werden, werden ebenfalls berücksichtigt.
Ich hoffe, dass ich dir damit bereits weiterhelfen konnte.
Liebe Grüße