Mark sündis 1911. aasta 1.oktoobril Krootuse (Kõlleste) vallas Võrumaal. Pärast õpinguid Võrus ja Tartu õpetajate seminaris õppis ta Tartu ülikooli õigusteaduskonnas.

Aastatel 1938-1940 töötas Mark algkooliõpetajana, 1940. aastal vandeadvokaat Sepa abina Tartus, 1941-1943 oli ta vandeadvokaadi abi Tallinnas.

Pärast Eesti okupeerimist 1940. aastal oli Mark lühikest aega Tartu ülikooli sekretär, kuid lahkus rektor Hans Kruusi soovil.

Mark kandideeris 1940. aastal riigivolikogu valimistel Eesti Töötava Rahva Liidu vastaskandidaadina, kuid kõrvaldati valitavate nimekirjast.

Hiljem varjas ta end kuni Soome põgenemiseni 1943. aastal. Soomes oli Mark üks Eesti Büroo organiseerijaid ja ajalehe Malevlane peatoimetaja abi.

1944. aastal asus ta Rootsi, kus oli riikliku välismaalaste komisjoni assistent. Mark tegutses aktiivselt Eesti Komitee koolitoimkonnas, 1954-1975 oli ta Eesti Komitee büroojuhataja ja abiesimees, 1975-1982 esimees ning aastast 1982 auesimees. 1951-1979 oli Mark Eesti Rahvusnõukogu peasekretär.

Aastail 1953-1971 oli Mark eksiilvalitsuse riigisekretär, 1971-1990 peaministri asetäitja ja sõjaminister.

Peaministriks presidendi ülesannetes sai ta 1. märtsil 1990 ja oli ses ametis 6. oktoobrini 1992. Oma volitused andis Mark riigikogu ees üle presidendiks valitud Lennart Merile.

1998. aastal sai ta Tartu ülikooli audoktoriks, ta oli Eesti Kirjanduse Seltsi auliige. Teda on autasustatud Eesti Rahvusfondi kuldmärgi, Poola I klassi kuldteenetemärgi ja Eesti Riigivapi II klassi teenetemärgiga.