Az osi eredetu Fermo egy, már a korai vaskorban (IX. század Kr.e.) a Villanova-kultúra népei és a picenumiak által lakott település, majd késobb római kor elotti város. A római fennhatóság idején a város széles autonómiának örvend. A második pún háborúban és a szövetségesek háborújában Róma ellen a város bizonyítja lojalitását, ezzel kiérdemelve a „Firmum firma fides Romanorum colonia” címet. Az V. század elejétol a várost Alarik (410), Ataulf (413), és Totila (543) barbár hadai dúlják fel.

Egy 825-ben kelt közismert alapítólevélben, I. Lothar megalapítja az elso köziskolát (ma egyetem) Fermo-ban, ezzel beválasztva a várost azon összesen kilenc olasz település soraiba, melyeket oktatási központokká akar tenni. A Marca Fermana (a Fermo-i Márka) határai a Musone- folyótól a Pescara- folyóig terjednek. A Márka elnevezés eredete szintén erre a történelmi idoszakra teheto.

1199-ben Fermo szabad várossá kiáltja ki magát.

1242-ben II Frigyes elfoglalja a várost; ezzel elkezdodik a szomszédos kastélyokkal vívott harcok idoszaka. Ebben a korban épül a hatalmas Rocca di Girfalco, mely 1445-ben semmisül meg. Francesco Sforza (1433) uralma alatt születik Fermo-ban Galeazzo Maria Sforza, a leendo V. Milanoi herceg.

A XVI. század végét az elokelo nemesi családok – az Euffreduccik, a Foglianik, a Guerrierik- között dúló hatalmi harcok jellemzik, tetopontjukat annak az Oliverotto Euffreduccinak az idejében élik, akit Niccoló Macchiavelli „A fejedelem“ címu munkájának VIII. fejezetében említ. A Fermo-i márkából származó és már a korábbiakban Fermo püspökeként munkálkodó

V. Sixtus pápa 1589-ben lendületet ad az osrégi egyetem fejlodésének és a püspöki székhelyet érseki székhelyi rangra emeli, illetve székesegyházát Basilica Minor-rá. Hálája jeléül, Fermo városa Accursio Baldi (“il Sansovino”) mesternél megrendeli a pápa bronzszobrát. A szobor a mai napig osztja áldását a Palazzo dei Priori kis loggiájából.
1797-ben Fermo Tronto tartomány székhelye lesz.

Napóleon visszatértével, 1808-ban, Fermo prefektúra- székhely. A város visszatérésével a pápai államba, Fermo vármegyeszékhely és az is marad 1860-ig, a Piemontiak megérkezéséig.

2004 óta a város Fermo megye székhelye.