Uvnitř ČSSD si už v 90. letech vybudoval pevnou pozici, byl oceňován jako trpělivý a tvrdý vyjednávač a opakovaně se stal místopředsedou strany (1997 až 2000, 2001 až 2005 a 2009 až 2013). V minulosti se Škromach, který byl řadu let jedním z nejpopulárnějších představitelů strany, ucházel dokonce o křeslo předsedy, uvolněné v roce 2005 Vladimírem Špidlou. Už v prvním kole jej ale předstihl Stanislav Gross a Škromach poté neuspěl ani v souboji o post statutárního místopředsedy.

Jako někdejší odborář se Zdeněk Škromach zajímal o sociální témata, ve Sněmovně zasedal ve výboru pro sociální politiku a zdravotnictví, později pro sociální politiku (v letech 1998 až 2002 a 2006 až 2010 výbor vedl). V červenci 2002 se na čtyři roky stal ministrem práce a sociálních věcí, byl místopředsedou vlády (2004 až 2006) a na podzim 2005 také krátce vedl resort zdravotnictví. Po odchodu ČSSD do opozice byl ještě stínovým ministrem práce a sociálních věcí.

V létě 2014 řekl, že uvažuje o své kandidatuře na prezidenta v roce 2018. „Určitě tady existuje prostor pro lidového prezidenta... Takže pokud se taková společenská zakázka objeví, tak to zvážím,“ prohlásil v Lidových novinách. Jeho slova ale nevyvolala příliš příznivou odezvu ani v ČSSD. Škromachovu kandidaturu odmítl třeba místopředseda strany Milan Chovanec, poslanec a současný ministr Jan Chvojka zase poznamenal, že Škromacha vidí jako „ne úplně reprezentativní osobu“.

Zdeněk Škromach je ženatý a má dvě děti.