Nee, dafür gibt es keine Einstellung. Normalerweise ist es so, das der rote Button das Fenster schließt, nicht die App. Gerade bei Apps mit mehreren Fenstern, z.B. wenn mehrere Dokumente geöffnet sind, wäre die Benutzung eher überraschend, wenn der rote Button die komplette App schließt. Der Button ist ja visuell ein Element eines jeden Fensters, der sollte keine Aktion auslösen, die sich auf die ganze App, also alle Fenster auswirkt.
Du kannst aber die Option ⌥ Taste gedrückt halten, während du auf das rote x klickst, dann werden alle Fenster der App geschlossen.