Walaupun terjemahan teks Ibrani di 2 Samuel 5:8 menimbulkan beberapa problem, terjemahan yang ada umumnya memperlihatkan adanya sebuah ”terowongan air”, yang disebutkan oleh Daud sewaktu menggugah prajuritnya untuk menyerang kota itu. Pada tahun 1867 M, Charles Warren menemukan sebuah saluran air yang terentang dari gua tempat munculnya mata air Gihon, dan setelah kira-kira 20 m, berakhir di sebuah kolam atau waduk. Di atas kolam ini ada sebuah lubang vertikal menembus batu cadas setinggi 11 m, dan di mulut lubang tersebut terdapat tempat untuk orang berdiri dan menurunkan wadah dengan tali guna menimba airnya. Ada jalan menanjak sepanjang hampir 39 m dari lubang itu menuju bagian dalam kota. Konon dengan cara inilah orang Yebus dapat tetap memanfaatkan sumber air mereka bahkan pada saat mereka tidak dapat pergi ke luar tembok kota karena serangan musuh. Walaupun mata air Gihon tidak disebutkan secara langsung dalam kisah itu, diperkirakan bahwa Yoab dan anak buahnya dengan berani memasuki kota tersebut melalui terowongan air ini.

Sewaktu serangan Asiria sudah di ambang pintu pada masa pemerintahan Hizkia (732 SM), Raja Hizkia mengambil langkah-langkah untuk memastikan agar persediaan air Yerusalem tidak jatuh ke tangan musuh. (2Taw 32:2-4) Akan tetapi, catatan di 2 Tawarikh 32:30 memperlihatkan bahwa, mungkin pada masa lain, ia menutup aliran Gihon yang melewati saluran lama dan membelokkan airnya ke sisi barat ”Kota Daud”, terlindung di balik tembok-tembok Yerusalem. Bukti mengenai caranya hal ini dilaksanakan mulai jelas pada tahun 1880 M sewaktu sebuah inskripsi ditemukan terpahat pada dinding sebuah terowongan air yang berakhir di kolam yang sekarang dikenal sebagai Kolam Siloam di sebelah barat ”Kota Daud” kuno. Inskripsi berhuruf Ibrani kuno itu, yang dianggap berasal dari abad kedelapan SM, menggambarkan bagaimana terowongan itu digali menembus batu cadas yang keras oleh dua tim yang bekerja dari ujung-ujung yang berlawanan dan bertemu di tengah. Setelah terowongan itu terlihat seluruhnya pada tahun 1910, panjangnya ternyata sekitar 533 m, dengan tinggi rata-rata 1,8 m dan di beberapa tempat menyempit hingga hanya selebar 0,5 m. Jelas bahwa prestasi pembangunan yang luar biasa ini merupakan hasil dari langkah yang Hizkia ambil untuk mengamankan dan mempertahankan persediaan air Yerusalem yang berasal dari Gihon.