Saat ini, goa Jepang tidak lagi tampak jelas karena sudah tertimbun tanah dan menjadi gundukan menyerupai bukit/gunung. Goa ini dibangun oleh tentara Jepang pada masa perang dunia 2 (tahun 1939-1942) sebagai tempat persembunyian, penyimpanan bahan makanan dan mesiu, serta peralatan militer lainnya. Banyak kisah mengharukan yang terjadi karena proses pembuatannya telah menelan korban pemuda-pemuda desa yang dipekerjakan secara paksa (romusha).

Strategi tentara Jepang dalam membuat gua ini dilakukan dengan perhitungan yang tepat. Apabila atau di serang, mereka akan bersembunyi di dalam goa, dan begitu penyerang sampai di plateau, tentara Jepang akan menghujani mereka dengan peluru dan senjata lain dari atas bukit.

Konon, menurut cerita dari seseorang yang pernah ikut bekerja dalam pembuatan goa-goa itu, ada lubang-lubang yang merupakan terowongan kearah lain dan di buat pula kamar-kamar serta ruangan dengan pilar-pilar kayu jati, bahkan beberapa kendaraan perang dapat memasuki goa-goa tersebut. Sekarang tidak lagi terlihat jelas, seberapa dalamnya goa-goa itu karena sebagian besar telah tertimbun tanah.

Lokasi goa-goa bekas tentara Jepang itu berada sebelum Dieng Plateau, berada di kanan kiri jalan menuju Dieng. Tempat sangat strategis untuk mengintai pergerakan serangan musuh.