En litografi illustrerar en tidsbild från 1859 där Skansen Lejonet, tillhörande Göteborgs befästningar, ståtar centralt i bilden uppe på Gullbergsklippan. Det syns tydligt att Gullberg fortfarande till stor del är kal, någon växtlighet tilläts inte växa då fri sikt var väsentlig för fästningens försvarsfunktion. Klippan fortsatte hållas fri några år in på 1900-talet, trots att skansen sedan länge förlorat sin funktion. Parkväxtligheten med stora träd, som idag tillåtits växa upp på Gullberg, tillhör därmed ingen äldre kulturmiljö på platsen. På illustrationen ser vi dessutom hur nära klippan Göta älv fortfarande gick, då man skönjer segel i vänstra kanten. Bilden visar också att närområdet fortfarande var öppet och i det närmaste obebyggt och att marken nyttjats till bete.
På illustrationen kan vi också se lämningar efter Gullbergs fäste, skans, eller hus, bland annat en gräsbeväxt vall som syns intill järnvägen. Flera vallar och murar finns fortfarande kvar synliga idag, men desto mer är dolt under markvegetationen.
Något som har en nästan 160-årig tradition i området är att Gullberget flankerats av tågtrafik. Denna tradition, som började med ett spår för lokomotiv, har eskalerat sedan dess, för att idag fullständigt omgärda klippan. Nu ska man öppna upp tillgängligheten genom att flytta järnvägsnätet norr om Gullberg och bygga en dubbelspårig pendeltågsförbindelse genom Gullberget i en bergtunnel under Skansen Lejonet. Närmast berget överdäckas tågtråget och Göteborgs Stads planer för området visar ett parkstråk i anslutning till Gullberg som ska göras mer tillgängligt. Det är i dessa tunnelmynningar som arkeologisk undersökning nu ska utföras.