In het begin van de negentiende eeuw tekende architect Jan De Greef het ontwerp voor het Paleis van Justitie. Het ging niet om een nieuw gebouw. Het Paleis van Justitie kwam op de plaats van het zogenaamde Aalmoezeniersweeshuis dat al uit de tweede helft van de zeventiende eeuw dateerde. De tweehonderd kinderen die er woonden, werden naar andere steden overgeplaatst. Heel kenmerkend aan het classicistische gebouw is dat boven de ramen van de eerste verdieping het volgende staat geschreven: Onder uw bewind, Doorluchtige Willem! is dit Gesticht herbouwd en aan Wet en Gerechtigheid ingewijd. Het zijn dichtregels van D. J. Van Lennep.