Il existe une histoire puranique sur l'origine de la colline. Un jour, Vishnu et Brahma en vinrent à se disputer pour savoir lequel d'entre eux était le plus grand. Leur querelle a provoqué le chaos sur terre, alors les Devas se sont approchés de Siva et l'ont supplié de régler le différend. Siva se manifesta alors comme une colonne de lumière d'où sortait une voix déclarant que celui qui pouvait trouver son extrémité supérieure ou inférieure était le plus grand. Vishnu a pris la forme d'un sanglier et s'est enfoui dans la terre pour trouver la base, tandis que Brahma a pris la forme d'un cygne et s'est envolé vers le haut pour chercher son sommet. Vishnu n'a pas réussi à atteindre la base de la colonne mais "commençant à voir en lui la Lumière Suprême qui habite dans le cœur de tous, il s'est perdu dans la méditation, inconscient du corps physique et même inconscient de lui-même, celui qui cherchait". Brahma vit la fleur d'une plante alse tomber dans les airs et, pensant gagner par tromperie, revint avec elle et déclara qu'il l'avait arrachée du sommet.

L'histoire continue que, parce que le lingam ou colonne de lumière était trop éblouissante pour être vue, Siva se manifesta à la place sous la forme de la colline d'Arunachala, déclarant : « De même que la lune tire sa lumière du soleil, ainsi les autres lieux saints tireront leur caractère sacré d'Arunachala. . C'est le seul endroit où j'ai pris cette forme pour le bénéfice de ceux qui souhaitent m'adorer et obtenir l'illumination. Arunachala, c'est l'OM lui-même. J'apparaîtrai chaque année au sommet de cette colline à Kartigai sous la forme d'un phare de paix. Cela fait référence non seulement au caractère sacré d'Arunachala lui-même, mais également à la prééminence de la doctrine de l'Advaita et à la voie de l'enquête sur le Soi dont Arunachala est le centre. On peut comprendre ce sens dans les paroles de Sri Bhagavan : « En fin de compte, tout le monde doit venir à Arunachala. »