Haveforeningen er opkaldt efter en tidligere formand for Kolonihaveforbundet Carl Nielsen og haveforeningens navn har altså ikke noget med komponisten Carl Nielsen at gøre.

Carl Nielsens Minde blev grundlagt den 17. april 1943. I første omgang drejede det sig om vejene Æblevej, Syrenvej og Ferskenvej. I 1947 blev foreningen udvidet med yderligere et stykke jord samt bygningen, som i dag lejes af købmanden. Nu bestod haveforeningen af 6 veje, idet Irisvej, Rosenvej og Lupinvej blev etableret. I 1949 fik foreningen så det sidste stykke jord købt af Pilegårdens jorder. Herved kom Hindbærvej, Solbærvej og Ribsvej med i billedet.

Det at haveforeningen blev dannet i 3 omgange forklarer, hvorfor havenumrene er i så ulogisk en rækkefølge.

Indtil motorringvej 3 blev bygget i 1970´erne bestod foreningen af 545 lodder. Etableringen af motorvejen betød, at Carl Nilsens Mindes jord blev eksproprieret med det der svarede til 21 havelodder.

I disse år udvides motorvejen til 6 kørebaner og haveforeningen står igen for tur. Det forventes, at der i denne omgang bliver eksproprieret 3- 4 havelodder.

Haveforeningen fik i 1997 fornyet deklarationen med Gladsaxe Kommune. Deklarationen beskriver, hvilke servitutbestemmelser haveforeningen har vedrørende benyttelse og bebyggelse m.v.

Deklarationen og haveforeningens egne regler og vedtægter danner tilsammen de rammer, hvorunder haveforeningen administreres i det daglige.