La forma correcta es ciudad de México . Hasta donde se ha investigado, el nombre de esta ciudad es México , no ‘ciudad de México’. Cuando el sustantivo ciudad es parte del nombre propio de un lugar, se escribe con mayúscula; es el caso de: Ciudad Guzmán , Ciudad Valles, Ciudad Victoria , etcétera.
Mayúscula inicial en las palabras 'calle' y 'avenida'.