Вторая известная попытка предпринималась в годы правления Петра I. По плану строительства канал должен был быть прорыт между притоками Волги и Дона, Камышинкой и Иловлей. Начало работ пришлось на 1697 год. Ими руководил иностранный «специалист» Иоганн Бреккель. Вовремя осознав неудачу начинания, он попросту сбежал из России. Стройку продолжил английский инженер Перри. Однако в 1701 году внимание Петра I отвлекла Северная война со Швецией. Финансирование было приостановлено.
До 1917 года было создано свыше 30 проектов соединения Волги с Доном. Однако ни одному из них не суждено было реализоваться по двум причинам. Во-первых, сопротивление оказывали частные владельцы железных дорог. Во-вторых, даже если бы произошло чудо и канал был бы построен, движение судов по нему могло бы осуществляться лишь в весеннее время, когда реки были полноводными.
В 1920 году по плану ГОЭЛРО правительство страны снова вернулось к проблеме создания канала. Однако проект строительства был создан лишь в середине 1930-х. Реализовать его помешала Великая Отечественная война. Работы по проекту возобновились сразу по окончании Сталинградской битвы, в 1943 году. Работами на трассе канала руководил Сергей Яковлевич Жук, опытный строитель и гидротехник, под руководством которого уже были спроектированы и построены Беломорско-Балтийский канал и канал Москва-Волга. В феврале 1948 года, после утверждения схемы Волго-Донского комплекса на заседании Совета Министров СССР, начались земельные работы.
Канал был построен всего за 4,5 года,