Oudenaarde is gesticht aan de linkeroever van de Schelde, die lange tijd de grens vormde tussen Frankrijk en het Heilige Roomse Rijk. In het jaar 1030 gelastte graaf Boudewijn IV van Vlaanderen er een burcht te bouwen. De toren van Oudenaarde (turris Aldenardensis) moest dienst doen als tegenhanger van de vestiging die de Duitse keizer aan de overzijde van de rivier in Ename had laten bouwen. In de dertiende eeuw werd de donjon vervangen door een groter kasteel.

Graaf Filips van de Elzas gaf de stad in 1150 een stadskeure. Langzaamaan ontstonden twee stedelijke vestingen; Oudenaarde op de linker- en Pamele op de rechteroever van de Schelde. Pas in 1558 versmolten beide stadskernen. Oudenaarde verloor zijn versterkingen na de slag bij Bouvines in 1214 en werd ingenomen door Gent in 1383.

De stad is ook de geschiedenis ingegaan als geboorteplaats van Margaretha van Parma. Keizer Karel V verwekte in Oudenaarde een kind bij weversdochter Johanna van der Gheynst. Hun kind zou van 1559 tot 1567 als landvoogdes over de Nederlanden regeren.