1. Pembentukan
Perwakilan BPK RI di Jakarta terbentuk berawal dari Satuan Kerja Auditorat IV yang dipimpin oleh Drs. A. Th. Sutedjo, MM., yang kemudian digantikan oleh Drs. Rusmantoyo. Berdasarkan SK BPK-RI No No. 16/SK/K//1996 tanggal 15 Agustus 1996, Auditorat IV berubah menjadi Perwakilan Khusus Jakarta, yang berkedudukan di Kantor Pusat BPK-RI, Jalan Gatot Subroto No. 31 Jakarta Pusat.
Selanjutnya berdasarkan SK BPK-RI No. 12/SK/I-VIII.3/2004 tanggal 29 Juli 2004 tentang Organisasi dan Tata Laksana BPK-RI, terbentuklah Perwakilan III BPK-RI di Jakarta yang berkantor di Jalan MT Haryono Kav. 45-46 Jakarta Selatan. Perwakilan III BPK-RI di Jakarta membawahi Sekretariat Perwakilan III BPK-RI di Jakarta, Sub Auditorat Provinsi DKI Jakarta, Sub Auditorat Depdagri dan Jawa Barat IV, dan Sub Auditorat Jawa Barat I, II, dan III.
Kemudian berdasarkan SK BPK-RI No. 02/SK/I-VIII.3/1/2006 tanggal 5 Januari 2006, nama Perwakilan III BPK-RI di Jakarta diubah menjadi Perwakilan BPK-RI di Jakarta, membawahi Sekretariat Perwakilan BPK-RI di Jakarta, Sub Auditorat Provinsi Jakarta, Sub Auditorat Depdagri dan Banten.
Berdasarkan SK Ketua BPK RI No. 34/K/I-VIII.3/6/2007 tentang Struktur Organisasi Badan Pemeriksa Keuangan Republik Indonesia, Perwakilan BPK RI di Jakarta akan membawahi Sub Auditorat DKI Jakarta I, Sub Auditorat DKI Jakarta II, Sub Auditorat DKI Jakarta IIII, Sub Auditorat DKI Jakarta IV, dan Sekretariat Perwakilan. Akan tetapi, sampai dengan saat ini, Sub Auditorat Banten masih berada di bawah Perwakilan BPK RI di Jakarta sampai dengan Perwakilan BPK RI di Serang berlaku efektif seperti tersebut dalam Pasal 2 ayat (5) dan Pasal 3 ayat (5) SK Ketua BPK RI No. 34/K/I-VIII.3/6/2007 tentang Struktur Organisasi Badan Pemeriksa Keuangan Republik Indonesia.
2. Peresmian
Peresmian penggunaan gedung kantor Perwakilan III BPK-RI di Jakarta dilakukan oleh Bapak Ketua BPK-RI, Prof. Dr. Anwar Nasution. pada tanggal 27 September 2005.