De oude stadskern bevindt zich in het noorden van Sfax. Je kan de ommuurde Medina binnentreden via de Bab Diwan, de veertiende eeuwse hoofdpoort. De Medina van Sfax is op zijn minst goed bewaard te noemen. Meer zelfs, ze is nog niet echt 'aangetast' door het toerisme. Je vindt hier dan ook ambachtelijke producten terug in plaats van de typische souvenirs. De oude stad is opgedeeld in verschillende wijken: de stoffenwijk, de groentenwijk, juwelenwijk...
In het hart van de oude stad zie je de Grote Moskee. Dit bouwwerk stamt oorspronkelijk uit het midden van de negende eeuw maar het werd in de loop van de eeuwen meerdere malen verbouwd. Rondom deze moskee zijn de souks neergeplant. Je kan hier je schoenen laten herstellen, kledij, kruiden, medicijnen en sieraden kopen... Naast de Grote Moskee kan je in de Medina ook nog de kasbah en het museum Dar Jellouli bezichtigen.
