Pada tahun ke-12 sebagai raja, Yosia memulai kampanye melawan penyembahan berhala yang tampaknya berlangsung sampai tahun ke-18 pemerintahannya. Mezbah-mezbah yang digunakan untuk ibadat palsu dirobohkan dan dinajiskan dengan membakar tulang-tulang manusia di atasnya. Selain itu, tonggak-tonggak suci, patung-patung ukiran, dan patung-patung tuangan dimusnahkan. Yosia bahkan memperluas upayanya sampai ke bagian utara, yaitu daerah yang dahulunya adalah milik kerajaan sepuluh suku tetapi menjadi telantar oleh karena telah ditaklukkan dan penduduknya dibawa ke pembuangan oleh orang Asiria. (2Taw 34:3-8) Rupanya, kecaman Zefanya dan Yeremia atas penyembahan berhala membuahkan hasil yang baik.—Yer 1:1, 2; 3:6-10; Zef 1:1-6.

Selanjutnya, Yosia mengumpulkan seluruh rakyat Yehuda dan Yerusalem, termasuk para tua-tua, imam, dan nabi, serta membacakan Hukum Allah kepada mereka. Setelah itu, mereka mengadakan perjanjian kesetiaan di hadapan Yehuwa. Kemudian disusul dengan kampanye kedua yang rupanya lebih intensif melawan penyembahan berhala. Para imam allah-asing di Yehuda dan Yerusalem diberhentikan, dan hak istimewa untuk melayani di mezbah Yehuwa dicabut dari para imam Lewi yang telah terlibat dalam ibadat yang tidak patut di tempat-tempat tinggi. Tempat-tempat tinggi yang dibangun berabad-abad sebelumnya pada masa pemerintahan Salomo, benar-benar dijadikan tidak pantas untuk ibadat. Sebagai penggenapan atas suatu nubuat yang diucapkan kira-kira 300 tahun sebelumnya oleh seorang abdi Allah yang tidak disebutkan namanya, Yosia merobohkan mezbah yang dibangun di Betel oleh Yeroboam, raja Israel. Tempat-tempat tinggi disingkirkan, bukan hanya di Betel melainkan juga di kota-kota Samaria lainnya, dan para imam yang menyembah berhala dikorbankan di atas mezbah-mezbah yang pernah mereka gunakan.—1Raj 13:1, 2; 2Raj 23:1-20; 2Taw 34:29-33.