Čermák se narodil 9. 5. 1873 na Kladně do hornické rodiny. Po krachu Vídeňské burzy v době ekonomické krize v roce 1875 se ale celá rodina vystěhovala do Ameriky. Bydleli v Braidwoodu ve státě Illionis, kde jeho otec našel práci horníka. Mladý Čermák chodil do školy pouhé tři roky a pak pracoval v uhelných slojích. Později odešel do Chicaga, kde v roce 1892 založil vlastní živnost na rozvoz všeho možného. Zprvu tahal sám vozíky naložené například uhlím, kamením, dřevem. Později byl kočím, přijal spolupracovníky a jeho živnost se rozrůstala. Zároveň se začal angažovat u Demokratů.
O Chicagu se v Čermákově době říkalo, že je třetím největším “českým” městem na světě (po Praze a Vídni). Čermák byl velkým vlastencem, angažoval se v krajanských spolcích, oženil se s Češkou a celý život mluvil plynně česky. Z jeho “českého” anglického přízvuku si dokonce tropili posměch jeho političtí protivníci, Čermák z něj však naopak učinil jakýsi svůj “trademark”.
Čermák se přátelil s F. D. Rooseveltem a to se mu stalo i osudným. Po Rooseveltově zvolení prezidentem se Čermák stal obětí atentátu, který se na Roosevelta pokusil spáchat italský přistěhovalec Giuseppe Zangara a to 15. 2. 1933 v Miami. Čermák se tehdy nacházel v bezprostřední prezidentově blízkosti, byl postřelen a zranění 6. 3. 1933 podlehl.
Roosevelt k tomu řekl: “Není třeba podotýkati, že smrt starosty Čermáka dotýká se mne velice hluboce a osobně. Mimo tragický řetěz okolností, jichž smrt jeho je následkem, velmi vřelé přátelství a velmi veliká úcta pro schopnost mayorovu, jeho přátelství a oddanost k přátelům, učinily by tuto ztrátu pro mne velmi těžkou za každých okolností… Statečný zápas, který vedl, ukazuje jasně, jak báječnou odvahu měl. Celá země a zvláště velké město Chicago bude velice postrádati jeho silného a odhodlaného charakteru."
Nicméně předtím Čermák ještě stihl navštívit v srpnu 1932 Československo, kde se mu dostalo opravdu triumfálního uvítání. Zastavil se i v rodném Kladně a setkal se i s prezidentem Masarykem.
Jeho hrobku najdete na Českém národním hřbitově (Bohemian National Cemetery) v Chicagu, který je prokazatelně největším pohřebištěm naší krajanské komunity na světě.