W 1889 roku w związku z rozpoczęciem budowy nowego dworca kolejowego, na północnych obrzeżach Bielska, władze miasta zobowiązały się do wybudowania w miejscu nieutwardzonej, błotnistej ścieżki – nowej szosy bitej, łączącej budowany dworzec z placem Smolnym. Do tej chwili udający się na „stary” dworzec kolejowy korzystali z ulic Barlickiego, dawniej Bahnstraße, oraz Wałowej – Dammstraße. Nowo wytyczona ulica, nazwana pierwotnie Tunelową (Tunnelstraße), szybko stała się główną arterią w centrum miasta i najbardziej reprezentacyjnym traktem. Od 1895 roku wzdłuż ulicy przebiegała linia tramwajowa, łącząca dworzec kolejowy z Cygańskim Lasem. W 1898 roku z okazji jubileuszu pięćdziesięciolecia zasiadania na tronie przez cesarza Franciszka Józefa, nazwę Tunelowa zmieniono na aleję Franza Josefa (Kaiser Franz Josef Straße).
W zabudowie zachodniej strony ulicy, nazywanej często „promenadą Korna”, przeważają trzypiętrowe kamienice wybudowane w latach 1890 – 1913, reprezentujące neobarok i secesję, należące niegdyś do bogatych bielskich fabrykantów. Naśladują one wiernie architekturę Wiednia i prawie wszystkie były dziełem Karola Korna. Zabudowa wschodniej strony ulicy, z uwagi na przebiegające w pobliżu tory kolejowe oraz tunel jest bardzo uboga. Głównie składają się na nią tzw. Domy Kolejarskie wzniesione dla pracowników kolei i ich rodzin, wybudowany w 1893 roku hotel Kaiserhof (Dwór Cesarski) oraz wybudowany z inicjatywy Komunalnej Kasy Oszczędności kompleks mieszkalno-biurowy z pasażem handlowym w formie ulicy.
W 1918 roku po włączeniu Bielska w granice Polski, ulica na odcinku od placu Garncarskiego do ulicy Dąbrowskiego otrzymała nazwę – 3 Maja, a na odcinku od Dąbrowskiego do dworca kolejowego – Legionów. Jedną z najważniejszych inwestycji drogowych w 1926 roku w Bielsku było poszerzenie ulicy na odcinku od dworca do hotelu Prezydent, do szerokości 18 metrów. Postanowiono również zmienić jej oświetlenie z gazowego na elektryczne. W 1927 roku ulicą 3 Maja przejechały pierwsze miejskie autobusy.
3 września 1939 roku polscy żołnierze wycofujący się z Bielska wysadzili tunel kolejowy w centrum miasta, powodując zawalenie się jezdni ulicy na odcinku około 150 metrów. W czasie II wojny światowej, władze okupacyjne zmieniły jej nazwę na Adolf Hitler Straße. Po wojnie nazwę ulicy na odcinku od placu Chrobrego do ulicy Dąbrowskiego zmieniono na Włodzimierza Lenina, a pozostały odcinek stał się częścią ulicy Armii Czerwonej. Największe zmiany w architekturze ulicy miały miejsce w latach sześćdziesiątych XX wieku, kiedy wyburzono kamienicę przy ulicy Barlickiego 7. Wyburzenie budynku umożliwiło połączenie schodami ówczesnej ulicy Lenina z ulicą Dzierżyńskiego, obecnie 11 Listopada. W 1971 roku po likwidacji bielskich tramwajów, z krajobrazu ulicy zniknęły tory i sieć trakcyjna. W 1990 roku na odcinku od placu Chrobrego do dworca kolejowego przywrócono nazwę ulicy na 3 Maja.
