Mata air Gihon terletak di sisi barat Lembah Kidron, bersebelahan dengan bagian yang disebut Kota Daud. Walaupun terdapat di luar tembok kota, letaknya cukup dekat sehingga sebuah terowongan yang terhubung dengan sebuah lubang dapat digali, dan penduduk kota dapat menimba air tanpa harus pergi ke luar tembok-tembok pelindung. Menurut bukti arkeologis, pekerjaan itu dilakukan pada awal sejarah kota itu. Dalam penggalian pada tahun 1961 dan 1962 ditemukan sebagian dari tembok yang dibangun pada masa yang sangat awal, letaknya di bawah ujung atas, atau jalan masuk, terowongan itu, jadi mengelilinginya. Diperkirakan itu adalah tembok kota kuno orang Yebus.

Seraya tahun-tahun berlalu, ada beberapa terowongan dan kanal yang ditambahkan untuk mengalirkan air dari Gihon.

Tetapi Daud berhasil menaklukkan kota itu dengan serangan pembuka yang dipimpin oleh Yoab, yang rupanya dapat memasuki kota melalui ”terowongan air”. (2Sam 5:6-9; 1Taw 11:4-8) Para pakar tidak sepenuhnya yakin dengan arti kata Ibrani yang di ayat ini diterjemahkan ”terowongan air”, tetapi mereka umumnya mengakui bahwa kemungkinan besar artinya ”terowongan air” atau istilah-istilah serupa (”saluran air”, TL, TB, RS, AT; ”parit”, JP). Kisah yang singkat itu tidak menceritakan bagaimana tepatnya pertahanan kota tersebut diterobos. Sejak ditemukannya saluran dan lubang yang mengarah ke mata air Gihon, banyak orang berpendapat bahwa Yoab memimpin anak buahnya memanjat dinding lubang yang vertikal itu, lalu berjalan melalui terowongan yang menanjak dan akhirnya memasuki kota serta mengadakan serangan mendadak. (GAMBAR, Jil. 2, hlm. 951)