Pada awalnya, Rowo Jombor merupakan daerah pertanian yang ditanami dengan tebu. Dibangunnya pabrik gula Manisharjo oleh Sinuwun Paku Buwono ke-X dan pemerintah Belanda di daerah Pedan, Klaten pada tahun 1901, membuat kebutuhan air untuk irigasi semakin meningkat.
Oleh karena itu, Sinuwun Paku Buwono ke-X dan pemerintah Belanda berencana membuat saluran irigasi dari Rowo Jombor ke area perkebunan tebu. Pembangunan saluran irigasi ini dimulai pada tahun 1917 dengan membuat terowongan sepanjang 1 km yang menerobos pegunungan di sekeliling rawa dan talang air di atas kali Dengker. Saluran irigasi ini selesai pada tahun 1921 dan menjadi salah satu sejarah penting dalam perkembangan Rowo Jombor.
Pada tahun 1943-1944, saat masa penjajahan Jepang, Rowo Jombor dijadikan waduk dengan dibangunnya tanggul di sekitar rawa oleh pemerintah Jepang. Pembangunan tanggul ini memanfaatkan tenaga kerja paksa atau Romusha.
Setelah masa penjajahan Jepang berakhir, Rowo Jombor tetap dimanfaatkan sebagai waduk. Pada tahun 1956, pemerintah Klaten membangun tempat peristirahatan bagi pengunjung dan menetapkan Rowo Jombor sebagai tempat wisata.
Setelah masa orde baru pada tahun 1967-1968, pemerintah kota Klaten melakukan perbaikan pada Rowo Jombor dengan memperlebar tanggulnya menjadi 12 m. Perbaikan ini dilakukan dengan melibatkan tahanan politik sebagai tenaga kerja, dan selesai dalam waktu 7 bulan dengan melibatkan sekitar 1.700 orang.
Rawa Jombor adalah danau buatan yang memiliki sejarah panjang, dimulai dari perkampungan yang sering banjir hingga menjadi waduk yang berfungsi untuk irigasi dan pengendalian banjir. Rawa Jombor juga memiliki daya tarik wisata dan menjadi pusat perikanan. Sosok Nyi Ageng Rakit yang menjadi nama taman di kawasan Rawa Jombor masih menjadi misteri dan perlu penelitian lebih lanjut.
AR