Firefox no tiene instalador, el fichero que descargas (.dmg) lo debes abrir (con doble click) y cuando aparezca la ventana arrastrar Firefox sobre la carpeta de aplicaciones.
Luego vas a Aplicaciones (Comando + May + A), lo localizas y lo arrastras al Dock, o con Spotlight lo localizas sin más para abrirlo desde ahí (pulsando intro).