Sejarah SMK Paya Rumput bermula hasil permintaan penduduk tempatan yang mahukan satu sekolah menengah di kawasan mereka apabila semakin banyak taman-taman perumahan dibuka serta pertambahan penduduk di kawasan mereka. Pada asal pembinaan, sekolah ini dinamakan SMK Bertam disebabkan bahagian padang kawasan sekolah ini termasuk di dalam Mukim Bertam. Tetapi atas bantahan penduduk setempat, oleh kerana bahagian bangunan utama dan pintu hadapan adalah di dalam kawasan Paya Rumput maka sekolah dinamakan dengan SMK Paya Rumput. Kawasan tapak SMK Paya Rumput ini adalah seluas 70374.29 meter persegi (17.39 ekar) manakala keluasan lantai bangunannya ialah 7910.11 meter persegi (1.96 ekar).

Majlis Pra Pembukaan sekolah telah dilaksanakan oleh Exco Pendidikan Dato Gan Tian Loo pada 25 September 2012 (Selasa). Manakala pada tanggal 3 Mei 2013, SMK Paya Rumput telah dirasmikan oleh YAB. Datuk Seri Hj. Mohd Ali bin Hj. Rustam, Ketua Menteri Melaka dengan pengetua pertamanya Datin Wira Hajah Hamidah bt Hassan. Datin Wira bersara pada tahun Jun 2015 dan digantikan oleh Puan Hajah Rubaiya bt Abu Nawas pada Julai 2015 hingga 5 Julai 2020. Pada Julai 14,2022 Tn Khalid Bin Bujang pula menggantikan Hajah Sahreah bt Md Zin sebagai pengetua, yang memperkenalkan MyPrissma sebagai akronim kepada Paya Rumput Secondary School.