Olympus Mons tros ha bildats under en lång tidsperiod, genom utbrott av lava från en central öppning. Vulkanen är inte längre aktiv, men den anses fortfarande vara en ung vulkan med geologiska mått mätt.
Frågan om Olympus Mons en gång var en gigantisk vulkanö är en debattfråga. Vissa forskare tror att vulkanen kan ha bildats på kanten av en stor krater, som senare fylldes ut med lava. Andra tror att vulkanen bildades på Mars öppna yta, och att den helt enkelt växte till sin nuvarande storlek med tiden.
Bevisen för möjligheten att Olympus Mons en gång var en ö kommer från närvaron av ett antal stora, platt-toppade mesas runt basen av vulkanen. Dessa mesas tros vara resterna av vulkaniska öar som en gång låg i ett hav som täckte mycket av Mars yta.
Teorin att Olympus Mons en gång var en ö stöds av det faktum att vulkanen ligger i vulkanprovinsen Tharsis, som tros ha varit platsen för en stor mängd vulkanisk aktivitet tidigare. Det finns dock inga definitiva bevis för att Olympus Mons någonsin varit en ö, och frågan kommer sannolikt att förbli en diskussionsfråga under en tid framöver.