Малая Морская улица расположена в историческом центре Санкт-Петербурга, проходит от Невского проспекта до Исаакиевской площади. До революции 1917 года — одна из главных фешенебельных улиц Петербурга. Наименование Малая Морская улица известно с 1731 года, дано по находящейся здесь Малой Морской слободе, в которой жили служители Морского ведомства в чине офицеров.
20 апреля 1738 года было присвоено имя Большая Луговая улица, так как находилась на краю Адмиралтейского Луга. Параллельно существовали названия Большая Луговая линия, Луговая Адмиралтейская улица, Луговая улица против Адмиралтейства, Новая Исаакиевская улица (включая теперешнюю улицу Якубовича), Новоисаакиевская улица, Исаакиевская улица, Морская Исаакиевская улица. К 1820-м годам все названия вытеснил современный вариант Малая Морская улица.
10 июля 1902 года магистраль переименовали в улицу Гоголя, в честь русского писателя Н. В. Гоголя, жившего в доме № 17 по этой улице, в связи с 50-летием его смерти. Улица появилась как граница эспланады Адмиралтейства — обширный луг для обзора местности обстрела в случае внезапного нападения противника. Это место было расчищено и застроено в начале XVIII века. Севернее улицы простиралось незастроенное пространство для обороны верфи в случае нападения неприятеля.
Сразу же после создания улицы она стала густонаселённой — здесь селились работники Адмиралтейства, моряки и в меньшей степени те, кто был связан со дворцовым комплексом. Здесь жили представители среднего класса; более обеспеченные граждане селились в районе Миллионной улицы. Улица была застроена деревянными одноэтажными домиками и мазанками с палисадниками.
В XVIII веке улица была в центре общественной жизни столицы. В 1770 году в доме № 17 открылся Английский клуб, а в 1772 году — первое Музыкальное общество. В 1909—1931 годах в доме № 17 находилось Общество художников имени А. И. Куинджи. В XIX веке в доме № 19 находилось первое в России фотоателье Вильяма Каррика.
21 октября 1936 года с этой улицы отправился первый ленинградский троллейбус. По маршруту: "Красная площадь (ныне площадь Александра Невского) — проспект 25 Октября (ныне Невский проспект) — улица Гоголя (ныне Малая Морская улица) — бульвар Профсоюзов (ныне Конногвардейский бульвар) — площадь Труда" прошёл выпущенный на Ярославском автозаводе троллейбус модели ЯТБ-1.
В 1987—1997 годах в подвале дома № 16 располагался театр "Приют Комедианта". Историческое название "Малая Морская улица" было возвращено 7 июля 1993 года. На углу Малой Морской улицы и Кирпичного переулка 28 декабря 2011 года был открыт наземный вестибюль станции метро "Адмиралтейская".