BPK RI Perwakilan Provinsi Sumatera Selatan berdiri pada tahun 2001, Kepala Perwakilannya telah berganti sebanyak 6 kali. Sebelumnya, Perwakilan Provinsi Sumatera Selatan merupakan Sub Auditorat I BPK RI di Palembang yang diresmikannya pada tanggal 1 Juli 1996. Sub Auditorat ini berada di bawah Perwakilan BPK RI di Medan. Pada Saat itu yang menjabat sebagai Kepala Sub Auditoratnya adalah Drs. Syafuddin Tasman. Pada tanggal 17 Januari 2002 BPK RI Perwakilan II Palembang resmi dikukuhkan dan Drs. Syafuddin Tasman yang sebelumnya menjabat sebagai Kepala Sub Auditorat dipromosikan sebagai Kepala Perwakilan sampai dengan bulan Juli 2005.
Pada bulan Agustus 2005, Kepala Perwakilan II BPK RI di Palembang diserahkan kepada Drs. H. Sutrisno. Beliau menduduki jabatan sebagai Kepala Perwakilan sampai dengan bulan September 2007. Jabatan Drs. H. Sutrisno sebagai Kepala Perwakian digantikan oleh Drs. Muzakkir pada bulan Oktober 2007. Drs. Muzakkir menduduki jabatan sampai dengan September 2010. Pada bulan September 2010, kembali terjadi perubahan kepemimpinan di Perwakilan Provinsi Sumatera Selatan. Drs. Muzakkir digantikan oleh Drs. Tangga Muliama Purba, MM yang sebelumnya menjabat sebagai Kepala Perwakilan Provinsi Lampung. Drs. Muzakkir sendiri dipindahtugaskan ke Perwakilan Provinsi Bali. Tidak menunggu lama, hanya empat bulan berselang, Drs. Tangga Muliaman Purba, MM dipindahtugaskan ke BPK RI Pusat Jakarta menduduki jabatan sebagai Kepala Auditorat Keuangan Negara I. A. dan digantikan oleh Dra. V.M. Ambar Wahyuni, Ak, MM. Pada Bulan Januari 2013 Dra. V.M. Ambar Wahyuni, Ak, MM dipindahtugaskan ke Perwakilan Provinsi Lampung dan digantikan oleh Novy G.A. Pelenkahu, MBA., Ak hingga Agustus 2014. Pada Agustus 2014, jabatan sebagai Kepala BPK Perwakilan Provinsi Sumatera Selatan dari Novy G.A. Pelenkahu, MBA., Ak. mendapatkan promosi jabatan sebagai Staf Ahli Bidang BUMN, BUMD, dan Kekayaan Negara/Daerah yang Dipisahkan sehingga jabatan Kepala BPK Perwakilan Provinsi Sumatera Selatan sejak bulan Agustus 2014 diserahterimakan kepada I Gede Kastawa, SE., MM. hingga Agustus 2014. Kemudian pada tanggal 19 Januari 2017 Serah terima jabatan diserahkan kepada Maman Abdulrachman S.E, M.M. hingga sekarang.