Haben dir die Experten vom Apple Support genau gesagt, was an deiner Mediathek problematisch mit iCloud ist?
Meine Mediathek hat zur Zeit nur 55000 Videos and Fotos, aber sie synchronisiert tadellos mit iCloud Fotos - unter macOS 10.14 Mojave, und macOS 11 Big Sur, iOS 14 und iPadOS 14.
Die Grösse der iCloud Mediathek allein kann nicht das Problem sein, nur, wenn auf den synchronisierten Geräten sehr wenig freier Speicher ist und die Mediathek auch mit "Optimiere Speicher" nicht mehr auf den Mac, das iPad, oder iPhone passt. Oder wenn Videos oder Bilder in einem Format vorliegen, das iCloud nicht mehr unterstützt.
Ich würde mal die Videos in der Mediathek untersuchen, in welchen Formaten sie vorliegen. Ich orientiere mich an der Liste für iMovie - was ich in iMovie importieren kann, ist meistens auch für Fotos geeignet: Informationen zu inkompatiblen Medien in iMovie für macOS - Apple Support (DE)