На передней и задней поверхностях спинного мозга проходят глубокие борозды, делящие его на две симметричные половины, соединённые в глубине центральной перемычкой. В самом центре спинного мозга проходит центральный канал, также заполненный спинномозговой жидкостью.
Белое вещество располагается в наружной части спинного мозга. Оно содержит массу нервных волокон, связывающих нейроны спинного мозга между собой, а также с нейронами головного мозга.
Вокруг центрального канала располагается серое вещество, состоящее из тел нейронов и их дендритов. Оно занимает всю центральную часть спинного мозга и тянется по всей его длине в виде серых столбов. На поперечном разрезе серое вещество имеет вид бабочки. В сером веществе спинного мозга различают передние, задние и боковые рога. Задние рога образованы телами вставочных нейронов. Эти нейроны воспринимают информацию от чувствительных нейронов, поступающую в мозг через задние корешки, и передают её дальше — или в головной мозг по восходящим путям, или другим нейронам спинного мозга. В передних рогах расположены двигательные нейроны (мотонейроны), управляющие скелетной мускулатурой. Боковые рога есть только в грудных и поясничных сегментах спинного мозга. Они образованы скоплениями вегетативных нейронов симпатической нервной системы, которые управляют внутренними органами и железами.