Boa tarde DouglasM,
Teoricamente seu Mac mini aceita até 8GB conforme informações do site Mac mini (Meados de 2011) - Especificações técnicas. No entanto você pode tentar utilizar 16GB, porém será por sua conta e risco.
Para identificar se você tem necessidade de mais memórias sugiro que você durante seu uso normal pressione Command + Espaço e digite Monitor de Atividade. Lá vá na aba Memória. Lá em baixo em PRESSÃO DA MEMÓRIA tem um gráfico, que irá ser criado de acordo com o tempo aberto. Lá se o gráfico ficar muito tempo no vermelho, você realmente pode estar precisando de memória. Se ele ficar apenas apenas em VERDE ou AMARELO, não terá necessidade de aumentar a memória RAM. Se o gráfico ficar em VERMELHO, pode estar realmente precisando de memória RAM. A memória RAM serve como memória rápida, para por exemplo abrir aplicativos mais rapidamente. Quanto mais memória RAM, teoricamente mais aplicativos simultaneamente você poderá abrir sem que haja gargalo de informações na memória RAM. É muito relativo eu indicar memória RAM para seu caso, sem saber de fato sobre sua utilização. Cada caso é analisado individualmente.
Uma melhoria seria a instalação e um SSD ao invés do seu HD. Atualmente utiliza-se a tecnologia de HD que é um disco rígido que faz a leitura dos dados através de uma agulha. A tecnologia de SSD não possui parte mecânica envolvida no processo de leitura de dados. A velocidade de acesso aos dados se torna muito mais rápida e sua máquina vai ficar mais veloz.
Espero ter ajudado!
Atenciosamente,
Felipe Lapolli