Hingga pada akhir tahun 1978, polisi mulai mencurigai Gacy ketika seorang Ibu melaporkan jika anaknya, Robert Piest, menghilang. Remaja itu terakhir kali terlihat bersamanya.
Setelah melakukan penyelidikan, polisi pun menemukan hal-hal janggal yang bersangkutan dengan Gacy.
Polisi setempat pun memperoleh surat perintah untuk menggeledah rumah Gacy.
Sesampainya disana dan begitu mereka masuk, polisi mencium bau busuk yang amat sangat menyengat menyeruak dari lantai kayu.
Awalnya Gacy mengelak dengan mengatakan bau itu berasal dari saluran pembuangan, namun tatkala polisi menemukan barang-barang mencurigakan yang diduga milik korban hilang, Gacy pun mau tak mau mengakui perbuatannya. Ia mengaku telah 'menyembunyikan' para korbannya di bawah rumahnya dan sisanya dibuang ke sungai Des Plaines.
Polisi pun memanggil petugas teknisi untuk membantu mereka membongkar ruang bawah tanah yang berukuran 8,5 m x 11,6 m.
Setelah dibongkar, petugas menemukan 26 mayat yang sudah membusuk beserta tulang belulang. Jenis kelamin semua mayat itu adalah laki-laki berumur 9-20 tahun.
