بدأت الرقابة المالية مع إشراقة عصر النهضة المباركة في عام 1970م ممثلة في دائرة تدقيق الحسابات بالمديرية العامة للمالية وكان دورها يقتصر على تدقيق السندات قبل الصرف.

استقلت دائرة تدقيق الحسابات عن دائرة المالية وفقاً للمرسوم السلطاني رقم 6 / 74 الصادر بتاريخ 12 فبراير 1974م لتكون تحت مسؤولية وزارة شؤون الديوان السلطاني، وأُنيط بها الرقابة المالية على الأجهزة الإدارية ومعالجة ما يعن لها من ملاحظات، ثم شرعت في إبلاغ تقاريرها مع بداية عام 1975م، كما عُنيت آنذاك بتدريب موظفي الأجهزة الإدارية بهدف تحسين أدائهم.

صدر قانون تنظيم الجهاز الإداري للدولة بالمرسوم السلطاني رقم 26 / 75 وأتبعت دائرة تدقيق الحسابات إلى وزارة شؤون البلاط السلطاني، إلى أن صدر المرسوم السلطاني رقم 24 / 81 باعتماد الهيكل التنظيمي لهذه الوزارة وتحولت الدائرة إلى مديرية عامة لتدقيق الحسابات حتى عام 1983م، حيث أتبعت المديرية العامة مباشرة إلى معالي السيد وزير شؤون الديوان السلطاني بالمرسوم السلطاني رقم 65 / 83 .

صدر أول قانون يختص بتنظيم تدقيق حسابات الدولة بتاريخ 10 مارس 1985م بالمرسوم السلطاني رقم 36 / 85 متضمناً الأهداف والاختصاصات والمسؤوليات المنوطة بالمديرية العامة ومحددًا الجهات الخاضعة لرقابتها والتقارير الدورية والسنوية الصادرة عنها.

عدل مسمى المديرية العامة لتدقيق الحسابات اعتبارا من 3 يناير 1989م بموجب المرسوم السلطاني رقم 81 / 89 إلى الأمانة العامة لتدقيق الحسابات، وبتاريخ 30 ديسمبر 1991م صدر المرسوم السلطاني رقم 129 / 91 الذي عدل مسماها لتكون الأمانة العامة للرقابة المالية للدولة، متضمنًا قانون الرقابة المالية للدولة ليحل محل نظام تدقيق الحسابات المشار إليه.

بتاريخ 22 نوفمبر 1999م صدر المرسوم السلطاني رقم 95 / 99 بتعديل مسمى الأمانة العامة للرقابة المالية للدولة إلى جهاز الرقابة المالية للدولة كجهاز قائم بذاته يتمتع بالاستقلال المالي والإداري، وتعيين معالي السيد/ عبدالله بن حمد بن سيف البوسعيدي رئيسًا للجهاز، ليكتمل له كل مقومات الاستقلال والحياد وما تبعه من إصدار قانون جديد للرقابة المالية بالمرسوم السلطاني 55 / 2000 واعتماد الهيكل التنظيمي الجديد للجهاز بالمرسوم السلطاني 56 / 2000 ليطل الجهاز خلال هذه المرحلة التي استمرت قرابة ثلاثة عقود ونصف وقد اكتملت له كل المقومات المؤهلة لمسايرة ركب الأجهزة الرقابية الدولية.