Марсель был основан в 1899 году и стал первым успешным нестоличным клубом во Франции, прервав парижскую гегемонию в национальном чемпионате и кубке. Первыми тренерами клуба стали англичане Питер Фармер, Виктор Гибсон и Чарли Белл.
«Марсель» 9 раз выигрывал чемпионат Франции и 10 раз добивался успеха в кубке Франции. На европейской арене наибольшим успехом для «Олимпика» является победа в первом розыгрыше Лиги чемпионов 1992/1993.