Conhecido como o "Grande Bigode", por seu espesso bigode branco, se tornou presidente da Total há quatro anos, após uma vida de trabalho na gigante do petróleo, onde foi promovido diversas vezes até entrar para o comitê de direção em 1992, antes de virar diretor-geral para o Oriente Médio três anos depois.
Em 1999, após a fusão da Total com o grupo belga Petrofina, Margerie chegou à diretoria de Exploração e Produção, a mais importante da empresa. Neste momento, Margerie entrou para o comitê executivo do grupo, cuja direção geral assumiu em 14 de fevereiro de 2007, no lugar de Thierry Desmarest, até chegar à presidência, em maio de 2010. Em 2012 foi reeleito até 2015.
Sob seu comando, a Total acelerou nos últimos anos os investimentos em exploração para cumprir os objetivos ambiciosos de crescimento da produção petroleira, ao mesmo tempo que abria mão de outras atividades.
Mas a imagem do grupo foi afetada por várias catástrofes, como o naufrágio na costa francesa do petroleiro "Erika" em 1999 e a explosão da filial de AZF em 2001 em Toulouse, sul da França, ou seu envolvimento no escândalo "petróleo por alimentos" no Iraque.
A imagem da Total também sofreu na França, onde a população reclama que o grupo não paga impostos no próprio país - donde é deficitário -, apesar dos grande lucro global.