2003年，卡尼离开高盛，加入加拿大银行担任副行长。[28]一年后，他受聘加入加拿大财政部，担任资深副部长，并于2004年11月15日开始担任此职务。[29]
2004年11月至2007年10月，卡尼担任加拿大财政部高级副部长和G7副部长。他曾在两位财政部长手下工作：自由党的拉尔夫·古德尔和保守党的吉姆·弗莱厄蒂。在此期间，卡尼监督了加拿大政府备受争议的收入信托来源征税计划。[30] 卡尼也是联邦政府出售加拿大国营石油19%股权并获利的领导人。[31][32]
2007年底，卡尼被联邦保守党政府提名为加拿大央行下一届行长，于2008年2月正式上任，成为8国集团和20国集团中最年轻的央行行长。当时加拿大正和其他欧美国家一样，面临环球金融危机的严重威胁。卡尼预计危机将蔓延全球，于是加拿大央行决定向加拿大金融系统提供大量额外流通性[33]，并采取不同寻常的举措，宣布承诺将利率维持在一年内尽可能低的水平[34]，这些似乎意外地对加拿大安全度过金融危机起到了重大作用。[35][页码请求]因此，卡尼常被各界认为在帮助加拿大避免遭受金融危机的最严重影响方面发挥了重要作用。[36]
