Über den Ursprung des Hügels gibt es eine puranische Geschichte. Einmal begannen Vishnu und Brahma darüber zu streiten, wer von ihnen der Größere sei. Ihr Streit brachte Chaos auf die Erde, also traten die Devas an Shiva heran und baten ihn, den Streit beizulegen. Daraufhin manifestierte sich Shiva als eine Lichtsäule, aus der eine Stimme erklang, die verkündete, dass derjenige, der ihr oberes oder unteres Ende finden konnte, der Größere sei. Vishnu nahm die Form eines Ebers an und grub sich in die Erde, um die Basis zu finden, während Brahma die Form eines Schwans annahm und nach oben schwebte, um seinen Gipfel zu suchen. Vishnu schaffte es nicht, den Fuß der Säule zu erreichen, aber „er begann, in sich selbst das Höchste Licht zu sehen, das in den Herzen aller wohnt, und verlor sich in der Meditation, war sich des physischen Körpers nicht mehr bewusst und war sich nicht einmal seiner selbst bewusst, desjenigen, der suchte.“ Brahma sah die Blüte einer Alsenpflanze durch die Luft fallen, und in der Absicht, durch Täuschung zu gewinnen, kehrte er mit ihr zurück und erklärte, er habe sie vom Gipfel gepflückt.

In der Geschichte heißt es weiter, dass sich Shiva stattdessen als der Arunachala-Hügel manifestierte, weil der Lingam oder die Lichtsäule zu blendend war, um sie anzusehen, und verkündete: „So wie der Mond sein Licht von der Sonne bezieht, so werden auch andere heilige Orte ihre Heiligkeit von Arunachala beziehen.“ . Dies ist der einzige Ort, an dem ich diese Form zum Nutzen derjenigen angenommen habe, die mich anbeten und Erleuchtung erlangen möchten. Arunachala ist OM selbst. Ich werde jedes Jahr auf dem Gipfel dieses Hügels in Kartigai in Form eines friedenspendenden Leuchtfeuers erscheinen.“ Dies bezieht sich nicht nur auf die Heiligkeit von Arunachala selbst, sondern auch auf die Vorrangstellung der Advaita-Lehre und den Weg der Selbsterforschung, dessen Zentrum Arunachala ist. Man kann diese Bedeutung aus Sri Bhagavans Ausspruch verstehen: „Am Ende muss jeder nach Arunachala kommen.“