Vihara Ibu Agung Bahari dibangun pada tahun 1738. Vihara ini dulunya dikenal sebagai Klenteng Thian Hou Kiong / Ma Tjo Poh.

Klenteng tersebut dibangun untuk memuja Dewi Ma Tjo Poh yang dipercaya sebagai dewi pembawa berkah dan keselamatan di laut.

Dulunya vihara ini terletak di Hoogepad (Jalan Ahmad Yani sekarang). Kemudian, pada saat Vereenigde Oostindische Compagnie (VOC) berkuasa di Makassar, vihara ini dipindahkan ke kawasan Pecinan atau tepatnya di Jalan Sulawesi, Kelurahan Pattunuang, Kecamatan Wajo, Makassar.

Pada tahun 1997 klenteng ini pertama kali disebut dengan nama vihara. Hal tersebut lantaran pada saat itu terjadi kerusuhan etnis Tionghoa yang menyebabkan beberapa orang berpindah agama menjadi penganut Buddha dan merubah fungsi klenteng menjadi fungsi vihara.

Kerusuhan yang terjadi kala itu menyebabkan sebagian dari bangunan ini rusak.

Selanjutnya pada tahun 2003, beberapa umat Buddha di Makassar secara sukarela menyumbangkan dana dan bertekad membangun tempat peribadahan yang lebih layak dan nyaman, maka dipugarlah vihara ini dengan tidak melupakan aspek sejarahnya, kecuali pintu masuk dan sayap kiri vihara.

Semenjak dibangun, Vihara ini telah tiga kali dipugar, yaitu pada tahun 1805, 1831, dan 1867. Sebagai peninggalan sejarah destinasi wisata religi, keberadaan bangunan Vihara Ibu Agung Bahari dilindungi UU No.11 tahun 2010 dengan nomor register 342 oleh Balai Pelestarian Cagar Budaya Provinsi Sulawesi Selatan, Tenggara dan Barat.