Bueno, veo dos cosas a tener en cuenta en tu caso.
Una es que el proceso de sincronización de la Fototeca es automático, pero a veces no es inmediato.
Depende del volumen de datos a sincronizar y de la velocidad de tu conexión a internet, que tiene que ser Wi-Fi, ya que por datos no se sincroniza la Fototeca.
No te recomiendo hacer muchos cambios seguidos en la Fototeca, para que se estabilice lo antes posible.
Hay que tener paciencia, que al final se sincroniza todo y se normaliza el sistema.
La otra es que sea problema de software.
En ese caso, restaurar el iPhone con iTunes en un ordenador puede solucionarlo.
De ahí que te comentaba esperar un par de días, no para borrar una foto, si no para dar tiempo a que la Fototeca se sincronice.
Pero si crees que el comportamiento de tu iPhone no es normal, restáuralo directamente.
Prueba y nos cuentas.
Saludos!!