Swayambhunath, est parmi les plus anciens sites religieux du Nepal . Swayambhunath a été fondé par l'arrière-grand-père du Roi Mānadeva (464-505), King Vṛsadeva, vers le commencement du ve siècle. Ceci semble être confirmé par une inscription endommagée sur une pierre trouvée sur le site L'histoire du site lui-même remonte apparemment à longtemps avant l'arrivée de bouddhisme dans la vallee de Kathmandu .
Bien que le site soit considéré comme bouddhiste, le lieu est révéré par les bouddhistes et les hindous. De nombreux rois hindous sont connus pour avoir rendu hommage au temple y compris le roi le plus puissant de Kantipur, Pratap Malla.
Le stupa consiste en un dôme à la base. Au-dessus du dôme, il y a une structure cubique avec les yeux de Boudha regardant dans les quatre directions. Il y a un Torana pentagonal présent au-dessus de chacun des quatre côtés avec des statues gravées en eux. Derrière et au-dessus du torana, il y a treize rangées. Au-dessus de toutes les rangées, il y a un petit espace au-dessus duquel le Gajur est présent
Le dôme à la base représente le monde entier. Quand une personne s’éveille (représentée par les yeux de sagesse et de compassion) des liens du monde, la personne atteint un état plus élevé. Les treize pinacles au-dessus de lui symbolisent le fait que les êtres sensibles doivent traverser les treize étapes d'éclaircissement pour atteindre la bouddhéité.
Sur chacun des quatre côtés du stupa principal, il y a une paire de grands yeux qui représentent la Sagesse et la Compassion. Au-dessus de chaque paire de yeux est un autre œil, le troisième œil. On dit que quand le Bouddha prêche, les rayons cosmiques émanent du troisième œil qui sert du message aux êtres célestes, pour que ceux qui sont intéressés puissent descendre sur terre pour écouter le Bouddha. Les êtres des enfers et les êtres au-dessous du royaume humain ne peuvent pas venir sur terre pour écouter l'enseignement du Bouddha, cependant, le rayon cosmique soulage leur souffrance quand le Bouddha prêche.
Il y a des places des Panch Bouddhas (cinq Bouddhas) sur chacun des quatre côtés du stupa. En dehors de ceux-ci, les idoles des Bouddhas sont à la base des stupas. Les Panch Bouddhas sont des Bouddhas dans le sens métaphorique du Tantrayana. Ceux-ci sont Vairochana (occupe le centre et est le maître du temple) Akshobya (fait face à l'est et représente l'élément cosmique de conscience),Ratnasamnhava (fait face au sud et représente l'élément cosmique de sensation),Amitabha (représente l'élément cosmique de Sanjna — le nom — et fait toujours face à l'Ouest) et Amoghasiddhi (représente l'élément cosmique de conformation et fait face au nord).
Chaque matin avant l'aube, les centaines de pèlerins montent les 365 marches du côté est qui mènent en haut de la colline, passant le Vajra doré (tibétain : Dorje) et deux lions gardant l'entrée, et commencent une série de circum-ambulations dans le sens des aiguilles d'une montre autour du stupa.