慶應義塾大学経済学部卒業。大阪府布施市(現・東大阪市)の助役を経て1967年に自民党から衆院旧大阪4区に出馬し初当選。当選11回。運輸相、文部相、官房長官、党税調会長、党総務会長などを歴任した。
2001年発足の小泉内閣に財務相として入閣。ひょうひょうとした語り口で人気を博し、小泉純一郎首相の後見役として存在感を発揮した。特別会計の無駄遣いに業を煮やし、国会で「母屋（一般会計）でかゆをすすっているのに、離れ（特別会計）ですき焼きを食べている」と答弁した際は、野党からも喝采を浴びた。
安倍晋三首相の父である安倍晋太郎元外相（故人）に近く、首相候補だった同氏を森喜朗元首相らとともに支え、「安倍派四天王」と呼ばれた。
2003年11月の衆院選に出馬せず、政界を引退。その後は東洋大学総長を務める一方、テレビ番組などにも出演し、政界のご意見番として活躍した。