La rencontre de deux cultures est très bien représentée par l’architecture de Cajamarca: la culture Inca et la culture espagnole. Cependant, ses vestiges archéologiques rendent compte d’histoires beaucoup plus anciennes, des histoires qui remontent à la culture Caxamarca (jusqu’en 1450 après J.C.), à ses aqueducs, ses pétroglyphes mystérieux et à d’autres civilisations encore plus reculées.
Dans le district des Bains de l’Inca, à seulement 8 km de la ville, l’on peut distinguer les fenêtres d’Otuzco, au milieu de la nature. C’est la nécropole d’un peuple pré-Inca, antérieur à la culture Caxamarca, probablement avec une influence de la culture Wari. Des centaines de galeries et de niches individuelles qui ressemblent à des fenêtres ont été taillées dans les rochers volcaniques. Ils atteignent environ de 8 à 10 mètres de profondeur. L’entrée a une forme rectangulaire ou carrée de 50 à 60 cm de hauteur. Il est probable qu’à l’origine il y avait des pierres tombales avec des figures symboliques en haut relief, compte tenu des vestiges découverts dans les alentours.
D’après les légendes, les incas avaient enlevé tout ce qu’il y avait à l’intérieur des rochers et avaient donné un usage différent aux niches, en les utilisant comme dépôts de graines (appelés en quechua collca). Et pour ce faire, ils ont orienté les entrées des niches contre le vent, afin de maintenir la fraîcheur. A travers quelques unes de ces fenêtres il est possible de pénétrer dans les galeries obscures et mystérieuses dont la fin insaisissable a inspiré l’imagination de l’homme en y supposant l’existence de passages secrets qui reliaient Cajamarca avec Cusco.