Penggalian arkeologis juga menyingkapkan adanya kanal kuno di permukaan tanah, yang terentang dari mata air Gihon ke arah selatan di sepanjang lereng ”Kota Daud”. Kanal ini berakhir di sebuah kolam di kaki ekor gunung yang adalah lokasi semula kota kuno itu—di ujung selatan ekor gunung itu, dekat pertemuan Lembah Tiropeon dengan Lembah Kidron. Kanal ini dibangun dengan tingkat kemiringan atau kelandaian yang kecil, sehingga menghasilkan aliran air yang sangat lembut. Kanal inilah yang mungkin dimaksudkan dalam nubuat Yesaya pada zaman Raja Ahaz (761-746 SM), karena ’airnya yang mengalir dengan lembut’ dikontraskan dengan banjir deras serbuan orang Asiria yang Yesaya nubuatkan akan menyerang Yehuda pada akhirnya.—Yes 8:5-8.

Sewaktu serangan Asiria sudah di ambang pintu pada masa pemerintahan Hizkia (732 SM), Raja Hizkia mengambil langkah-langkah untuk memastikan agar persediaan air Yerusalem tidak jatuh ke tangan musuh. (2Taw 32:2-4) Akan tetapi, catatan di 2 Tawarikh 32:30 memperlihatkan bahwa, mungkin pada masa lain, ia menutup aliran Gihon yang melewati saluran lama dan membelokkan airnya ke sisi barat ”Kota Daud”, terlindung di balik tembok-tembok Yerusalem. Bukti mengenai caranya hal ini dilaksanakan mulai jelas pada tahun 1880 M sewaktu sebuah inskripsi ditemukan terpahat pada dinding sebuah terowongan air yang berakhir di kolam yang sekarang dikenal sebagai Kolam Siloam di sebelah barat ”Kota Daud” kuno. Inskripsi berhuruf Ibrani kuno itu, yang dianggap berasal dari abad kedelapan SM, menggambarkan bagaimana terowongan itu digali menembus batu cadas yang keras oleh dua tim yang bekerja dari ujung-ujung yang berlawanan dan bertemu di tengah. Setelah terowongan itu terlihat seluruhnya pada tahun 1910, panjangnya ternyata sekitar 533 m, dengan tinggi rata-rata 1,8 m dan di beberapa tempat menyempit hingga hanya selebar 0,5 m. Jelas bahwa prestasi pembangunan yang luar biasa ini merupakan hasil dari langkah yang Hizkia ambil untuk mengamankan dan mempertahankan persediaan air Yerusalem yang berasal dari Gihon.

Pada tahun 1867 M, Charles Warren menemukan sebuah saluran air yang terentang dari gua tempat munculnya mata air Gihon, dan setelah kira-kira 20 m, berakhir di sebuah kolam atau waduk. Di atas kolam ini ada sebuah lubang vertikal menembus batu cadas setinggi 11 m, dan di mulut lubang tersebut terdapat tempat untuk orang berdiri dan menurunkan wadah dengan tali guna menimba airnya. Ada jalan menanjak sepanjang hampir 39 m dari lubang itu menuju bagian dalam kota. Konon dengan cara inilah orang Yebus dapat tetap memanfaatkan sumber air mereka bahkan pada saat mereka tidak dapat pergi ke luar tembok kota karena serangan musuh. Walaupun mata air Gihon tidak disebutkan secara langsung dalam kisah itu, diperkirakan bahwa Yoab dan anak buahnya dengan berani memasuki kota tersebut melalui terowongan air ini.