Malcriação ou má-criação?

Não existe a palavra "malcriação".

O que existe é "má-criação".

Nas formações com "mal" e "mau/má", precisamos considerar o termo que vem depois dessas palavras.

Se for um verbo/particípio, usaremos o advérbio "mal".

Teremos assim um nome composto de acordo com o padrão da língua, pois advérbios modificam verbos: mal-educado, maltratado, malcriado.

Se o segundo elemento for um substantivo, usaremos o adjetivo "mau/má".
 
Formaremos desse modo um composto conforme a regra, pois adjetivos modificam substantivos: má-educação, maus-tratos, má-criação.