Kabla ya uhuru wa Tanganyika ofisi ya Mdhibiti na Mkaguzi Mkuu wa Hesabu za Serikali ilifahamika kama Idara ya Ukaguzi ndani ya Tanganyika na Kiongozi wa Ofisi hiyo alitambulika kama Mkurugenzi wa Ukaguzi. Mkurugenzi huyo aliteuliwa na Katibu wa Jimbo au Gavana Mkuu kwa maelekezo ya Katibu wa Jimbo kwa niaba ya Mfalme au Malkia wa Uingereza.
Mapema kabla ya Uhuru wa Tanganyika mwaka 1961 baada ya sheria ya Exchequer and Audit Ordinance ya mwaka 1961 jina la taasisi lilibadilishwa kutoka Idara ya Ukaguzi na kuwa Idara ya Malipo na Ukaguzi (Exchequer and Audit Department), pia jina la Mkuu wa Taasisi lilibadilika kutoka Mkurugenzi wa Ukaguzi na kuwa Mdhibiti na Mkaguzi Mkuu wa Hesabu za Serikali.
Hapa chini ni orodha ya viongozi saba ambao wamewahi kuongoza ofisi hiyo kuanzia mwaka 1961:
1. R.W.A. McColl
CAG: 1961 to 1963
2. Gordon. A. Hutchinson
CAG: 1964 – 1969
3. Mohamed Aboud
CAG: 1969 – 1996
4. Thomas Kiama
CAG: 1996 – 2005
5. Ludovick S. L. Utouh
CAG: 2006 – 2014
Ludovick Utouh aliteuliwa kuwa Mdhibiti na Mkaguzi Mkuu wa Hesabu za Serikali wa Jamhuri ya Muungano wa Tanzania Mwaka 2006 na alihudumu katika nafasi hiyo kwa kipindi cha miaka nane mpaka mwaka 2014 alipostaafu baada ya kufikisha umri wa kustaafu kwa lazima kwa Mdhibiti na Mkaguzi Mkuu wa Serikali ambao ni miaka 65.
Wakati wa utumishi wake alihudumu pia kama mwenyekiti wa Umoja wa Taasisi kuu za ukaguzi wa nchi zinazoongea Kiingereza na Kireno (AFROSAI-E) na alikuwa ni mjumbe wa Bodi ya Ukaguzi ya Umoja wa Mataifa.
Anakumbukwa kama kiongozi aliyesimamia mabadiliko mengi chanya ya ofisi ya taifa ya ukaguzi ikiwemo kutungwa kwa Sheria ya Ukaguzi wa Umma ya Mwaka 2008 na kanuni zake za mwaka 2009 pamoja na miongozo kadhaa ya kazi za ukaguzi.
Kabla ya uteuzi wake alikuwa ni Mtendaji Mkuu wa kwanza wa Bodi ya Wahasibu na Wakaguzi Tanzania na kwa sasa anaongoza Taasisi ya WAJIBU.
6. Prof. Mussa Juma Assad
CAG: 2014 – 2019
Prof. Mussa J. Assad aliteuliwa kuwa Mdhibiti na Mkaguzi Mkuu wa Hesabu za Serikali wa Jamhuri ya Muungano wa Tanzania Novemba 5, 2014 na kuhudumu katika nafasi hiyo mpaka Novemba 4, 2019 ambapo muda wake wa utumishi ulimalizika.
Kaba ya Uteuzi wake, alikuwa ni Profesa Mshiriki katika Shule ya Biashara ya Chuo Kikuu cha Dar es Salaam akifundisha masomo ya shahada za kwanza, uzamili na uzamivu. Pia alikuwa akifanya utafiti na ushauri. Alihudumu katika Bodi ya Taasisi za Umma na binafsi.
Profesa alisoma na kutunukiwa shahada ya Uzamivu katika Chuo Kikuu cha Southampton, Shahada ya Uzamili katika Udhibiti wa Fedha na Chuo Kikuu cha Dublin City, Astashahada ya Uhasibu Chuo Kikuu cha Dublin na Shahada ya Biashara (Uhasibu) kutoka Chuo Kikuu cha Dar es Salaam.
7. Charles E. Kichere
CAG: 2019 – Hadi sasa
Mtaalamu wa Uhasibu na Mhitimu wa Masomo ya sheria, Kichere alisoma elimu na kutunukiwa shahada ya Biashara na Shahada ya Uzamili katika usimamizi wa Biashara katika Chuo Kikuu cha Dar-es-Salaam na shahada ya kwanza ya sheria katika Chuo Kikuu cha Tumaini, Jijini Dar es Salaam.
Kabla ya kuteuliwa na Novemba 3, 2019, Kichere alihudumu katika nafasi ya Katibu Tawala wa Mkoa wa Njombe.
Alikuwa Kamishna Mkuu wa Mamlaka ya Mapato Tanzania kuanzia Machi 2017 hadi Juni 2019. Kabla ya hapo alikuwa Naibu Kamishna Mkuu wa Mamlaka ya Mapato Tanzania kuanzia Novemba 2016 hadi Machi 2017.
Kichere amewahi kuwa mjumbe wa Bodi ya Benki ya CRDB Tanzania. Pia alihudumu katika nafasi ya Mhasibu Mkuu wa Wakala wa Barabara Tanzania (TANROADS).
Kabla ya kujiunga na Utumishi wa umma, Kichere alikuwa katika sekta binafsi ambapo alikuwa Mkaguzi wa ndani katika kampuni ya majani ya chai ya Unilever nchini Kenya na Tanzania.
Amepokea wadhifa wa Mdhibiti na Mkaguzi Mkuu wa Hesabu za Serikali kutoka kwa Profesa Mussa Assad ambaye muda wake wa utumishi wa miaka mitano uliisha tarehe 04 mwezi Novemba 2019.