Arrestbakken er en bratt, smal bakke som går fra Trefoldighetskirken opp til den videregående skolen på Tyholmen. Nederst i bakken ligger det gamle arresthuset som har gitt navn til bakken.