1998年，在经过数年激烈争论和试验后，石油、石化工业体制改革，这一行动比大多数工业观察家们所预言的更为大胆。次年2月，蒋洁敏调任中石油集团公司总经理助理兼重组与上市筹备组组长。重组与上市涉及盘根错节的利益主体，而上市后集团公司与股份公司也存在矛盾，蒋洁敏一度处于漩涡中心，当年11月出任中石油董事兼副总裁。2000年他调任青海副省长，同年11月起任青海省省委常委、副省长，并从2003年6月起，任青海省委副书记、副省长。2004年4月起任中国石油天然气集团公司副总经理，2004年5月起任该公司副董事长、总裁。
　　2004年12月重庆井喷事故后，中石油集团总经理马富才引咎辞职，原股份公司总裁陈耕成为过渡期领导，蒋洁敏则从几位后备的中石油副总之中脱颖而出，担任集团新设的党组副书记。2006年11月，蒋洁敏接任中石油集团总经理，2007年起兼任董事长。
　　2008年5月16日辞任中国石油股份公司总裁，蒋洁敏继续任中国石油股份公司董事长，周吉平为副董事长，蒋洁敏同时还是中国石油股份公司母公司中国石油天然气集团公司总经理。
　　一位曾与蒋洁敏共事的中石油海外项目负责人曾表示，蒋在员工心中是个“战略型”官员。中石油开展海外业务以来，1993年到2006年年底，总油气当量不到5000万吨。蒋洁敏掌舵后，2007年到2011年年底，海外油气总量就翻了一倍，油气当量总量达1亿吨。
　　在蒋洁敏掌舵中石油的7年间，中石油多年蝉联“亚洲最赚钱公司”称号，但同时也经历了A股上市后股价跌宕的大喜大悲。
　　首位落马十八届中央委员
　　2010年7月16日，位于辽宁省大连市保税区的大连中石油国际储运有限公司原油库输油管道发生爆炸，引发大火并造成大量原油泄漏，致部分原油、管道和设备烧损，另有部分泄漏原油流入附近海域造成污染。事故造成作业人员1人轻伤、1人失踪;在灭火过程中，消防战士1人牺牲、1人重伤。据统计，事故造成的直接财产损失为2233万元。
　　2011年11月24日，国务院对中国石油天然气集团公司在辽宁省大连市所属企业发生的“7·16”输油管道爆炸火灾等4起事故的调查处理结果作出批复，认定这4起事故均为责任事故。其中，“7·16”输油管道爆炸火灾14名涉嫌犯罪的责任人被移送司法机关依法追究刑事责任，中国石油天然气集团公司董事长、党组书记蒋洁敏也因此受到国务院的警告处分。
　　这只是蒋洁敏仕途的一个小插曲。时隔两年，2013年8月26日，在这个外界看来很平常的日子，中石油内部却发生了“人事动荡”，8月26日，中石油副总王永春涉违纪被查，翌日下午 中石油集团李华林、冉新权、王道富等3人涉嫌严重违纪被查，消息一出，震惊之外，各种隐晦的猜测均指向将此四人一路提拔的原中石油董事长蒋洁敏，认为其很可能成为此案涉及的“更大的老虎”。