A Káli-medence legnagyobb és legszebb kifejlődésű kőtengerének anyaga feltehetően a pliocén korban, néhány millió éve képződött a felszín alatt. A Pannon-tó egykori homokos és/vagy kavicsos üledékét később a benne szivárgó kovás oldatok helyenként cementálták. Hosszú idő alatt óriási kőlepények jöttek létre.
A kvarcszemcsék és a "ragasztó" egyaránt szilícium-dioxidból áll, amely az acélnál is keményebb anyag, ezért a külső erők (víz, szél, fagy) alig tudják pusztítani. A kőtömböket körülvevő laza homokot viszont könnyedén elmossa az eső vagy elfújja a szél. Az egyik oldalukon alátámasztásukat vesztett darabok a kőtenger peremi részein kifordulnak eredeti helyükről, sőt teljesen oldalukra is dőlhetnek.
A Kelemen-kő érdekes jelenséget mutat. Legfelső, közel 10 tonnás kőpadja csak három ponton támaszkodik az alatta fekvő tömbre. Néhány ember súlya már képes kibillenteni egyensúlyi helyzetéből, és 15 centiméternyit függőlegesen elmozdítani. E működő "geológiai mérleghinta" rendkívül ritka a természetben; valódi ingókő.
A legalsó kőtömb oldalában látható "barlangocska" helyét eredetileg szintén homok töltötte ki, csak ez a rész kimaradt a kovás cementációból. Amikor a kőzettömeg felszínre kerülve kettétört, a homok egyszerűen kifolyt az üregből.