Tatsächlich ist das doch recht einfach... du hast die erste Instanz ja offen... du ziehst dann einfach nur die App dann unten vom Dock dann nochmal nach oben auf einen freien Platz, nachdem du das andere Fenster geöffnet hast... tatsächlich auch ähnlich, wie es bei Splitscreen auch war.
Alternativ kannst du oben die Menüleiste einblenden, in dem du vom oberen Bildschirmrand leicht nach unten swipest, dort auf Fenster tippst und den Punkt "Neues Fenster" auswählst.
Dritte Möglichkeit du tippst und hältst das App-Icon von Goodnotes und tippst dort auf "Neues Fenster"