Encontró la felicidad casándose con Anna Ivánovna Popova, 26 años menor que él. Para lograrlo, Mendeléyev estuvo cuatro años desesperado, incluso llegó a caer en una depresión, debido a que su mujer se negaba a concederle el divorcio y la familia de Anna se oponía tajantemente. A punto de darse por vencido, consiguió el divorcio de su esposa y fue en busca de Anna que se encontraba en Roma. En 1882 contrajeron matrimonio. Tuvieron cuatro hijos, la mayor de los cuales, Liubov, se casaría con el poeta ruso Aleksandr Blok.
En 1862 se casó, obligado por su hermana, con Feozva Nikítichna Leschiova con la que tuvo tres hijos, uno de los cuales falleció. Éste fue un matrimonio infeliz y desde 1871 vivieron separados. Fue acusado de bígamo, pues una vez divorciado de su esposa volvió a contraer matrimonio con ella, sin esperar los siete años que exigía la legislación rusa, aunque tuvo la suerte de que la pena recayó sobre el párroco que les había casado.
La familia sufrió, ya que Dmitri solo terminó el bachillerato, su padre murió y la fábrica de cristal que su madre dirigía, se quemó. Ésta apostó por invertir los ahorros en la educación de Dmitri, en vez de reconstruir la fábrica. En esa época la mayoría de los hermanos, excepto una hermana, ya se habían independizado, y la madre se los llevó a Moscú para que Dmitri pudiese ingresar a la Universidad. Sin embargo, Mendeléyev, no fue admitido; su origen siberiano le cerró las puertas de las universidades de Moscú y San Petersburgo, por lo que se formó en el Instituto Pedagógico de esta última ciudad.