Точний час виникнення Олексіївки невідомий. Вона з'явилася наприкінці XVII чи початку XVIII століття. Населення Олексіївки в 1779 році, згідно «Відомості, з яких саме міст і повітів Харківське намісництво складено і скільки було в них душ на 1779 рік», було 398 «владних підданих» душ вахмістрів Івана і Григорія Квіток і 179 душ не тільки чоловіки, жінок та дітей не рахували, оскільки вони не сплачували податків). У цій відомості Олексіївка називається «володарська слобідка». Потім Квітки (із яких був письменник Григорій Квітка-Основ'яненко) продали Олексіївку Щербиніним, з роду яких був перший харківський губернатор Євдоким Щербінін.
1782 року в слобідці Олексіївка, володінні колезького радника Петра Андрєєва сина Щербініна в 39 дворах проживало 280 осіб. Спочатку розташовувалася трохи вище перетину Золочівської дороги (нині вулиця Клочківська) з річкою Олексіївкою, на правому її березі, вище за джерело; на карті 1788 позначена як «село».
У списках населених місць Харківської губернії 1864 року в селі Олексіївка у 120 дворах проживало 664 мешканці. Була православна церква та винокурний завод. 1885 року в селі Олексіївка Олексіївської волості у 115 дворах проживало 644 мешканці. Була православна церква. За переписом населення 1897 року в селі Олексіївка проживало 853 мешканці.
Назва села та Олексіївської вулиці пов'язана зі святим джерелом православного святого Алексія, людини Божої.
Схід Олексіївської вулиці був побудований у 1839 році православний храм Алексія, людини Божої (Харків), зруйнований під час штурму міста під час третьої битви за Харків у 1943 році. Наразі біля колишнього православного храму ведеться будівництво великого кафедрального католицького храму Харківської дієцезії Римо-католицької церкви з будинком глави католицької єпархії та допоміжними службами. Джерело діє і понині.
До 1950-х років Олексіївка була селом на лівому (східному) березі річки Лопань, вище за нинішній лугопарк, і не входила до межі Харкова. Цей район зараз називається Стара Олексіївка. Біля неї знаходилися селище Лозовенька та селище лісництва Зелене.
У 1937-1940 роках, перед ВВВ, в Олексіївці було 679 дворів, православна церква, ставок та своя Олексіївська сільрада. У нижній частині Олексіївки, на подолі, ближче до Лозовеньки, знаходився цегельний завод, що нині не діє, від якого залишилися п'ять кар'єрів, заповнених водою.
Масова забудова Олексіївки багатоповерховими житловими будинками розпочалася із середини 1970-х років. У 1980-х роках район забудовувався у бік П'ятихаток. Район від проспекту Людвіга Свободи у бік П'ятихаток називається Нова Олексіївка.