Een van beide kazematten van het bastion was onderdeel van de eerste berenkuil in de stad en deed lange tijd dienst als nachtverblijf voor de beren. De kazemat werd bij de aanleg van de nieuwe berenkuil in 1970 waarschijnlijk ingegraven en zal mogelijk nog ondergronds aanwezig zijn. De heuveltjes stroomafwaarts (bijvoorbeeld het heuveltje waar het bronzen beeld van de beer zich bevind) zijn resten van de lunetten van Aylva, andere vestingwerken die hier vroeger voor de stadsmuur hebben gelegen. De trap die over deze heuveltjes leidt heeft hardstenen cordonbanden, die van een gesloopt vestingwerk afkomstig zijn. We zien dergelijke blokken ook boven op de muren van Wilhelmina.
Het bastion Wilhelmina wordt in de jaren 1768-1769 aangelegd.Een bastion is een vijfhoekig vestingwerk dat twee naar de vijand gekeerde voorzijden, de facen heeft, twee naar de zijkant gerichte wallen, de flanken en een naar de stad gekeerde zijde, de keel. Zoals alle buitenwerken bestaat het vestingwerk overwegend uit aarde en is het aan de buitenkant voorzien van gemetselde muren. Deze zijn vijftien voet hoog en werden omgeven door een natte gracht. In het bastion lagen een gemetselde kazemat en een kruitkelder.
Het bastion werd genoemd naar prinses Wilhelmina, de pruissische echtgenote van stadhouder Willem V.
De linker face met daarin de naamsteen Wilhelmina 1769 bleef behouden. Van de rest van het muurwerk van het bastion werd na de opheffing van de vesting waarschijnlijk het bovenste gedeelte gesloopt. Het onderste deel van de muren is, zoals op veel plaatsen in Maastricht, ingegraven. Ook kazemat en kruitkelder zijn waarschijnlijk nog ondergronds aanwezig.
