Существительные «по вертикали», «по горизонтали» стоят в дательном падеже, единственном числе, относятся к 3 склонению (начальная формы – вертикаль, горизонталь; нулевое окончание, женский род); в слове-помощнике 3 склонения в дательном падеже пишется окончание «и» (по степи), поэтому и в данных существительных пишется «и».
Примеры на орфограмму:
По памяти – по степи (окончание «и», 3 склонение).
К мыши – к степи (окончание «и», 3 склонение).
По совести – по степи (окончание «и», 3 склонение).
По постели – по степи (окончание «и», 3 склонение).