Указ о строительстве Больших морских ворот (Suur Rannavärav), которые соединили бы Тоомпеа и гавань, был издан еще в 1265 году. Однако первоначальная конструкция на этом месте возникает лишь в 14-м веке. В 1510 году, с началом строительства Толстой Маргариты (Paks Margareeta), которую возвели, разрушив одну из привратных башен, ворота были перестроены и расширены.
В 17 веке Большие морские ворота представляли собой пару предмостных башен, которые были соединены аркой. Они находились между двумя земляными валами: Хорн-бастионом и бастионом Скооне. В 1757 году в результате пожара пострадала западная башня ворот - соседка Толстой Маргариты, однако к концу столетия ее восстановили. Таким образом, тот вид, который мы можем наблюдать сегодня, комплекс Больших Морских ворот приобретает в 18 - 19 веках.
Ворота украшены доломитовой плитой с изображением малого герба Ревеля, на котором грифоны держат щит с изображением креста, увенчанный рыцарским шлемом с плюмажем. Герб был создан мюнстерским мастером Гертом Конингом в 1529 году, о чем свидетельствует дата на плите. Сегодня она серая, а в 16 веке была цветной. Расписывал ее мастер Иоахим - автор фигуры Старого Томаса на шпиле Ратуши.