Pihl sündis 1954. aasta 17. märtsil Kuressaares.

Aastatel 1993-2003 oli ta kaitsepolitseiameti peadirektor, 2003-2005 töötas riigi peaprokurörina.

2007-2009. aastatel oli sotsiaaldemokraate esindanud Pihl Andrus Ansipi teises valitsuses siseminister.

2009. aastal toimunud Sotsiaaldemokraatliku Erakonna täiskogul valiti ta erakonna esimeheks. Selles ametis oli ta 2010. aasta sügiseni.

Aastatel 2009-2010 oli Pihl Tallinna abilinnapea, pärast seda tegutses eraettevõtluses.