指南针的前身是中国古代四大发明之一的司南，早在战国时期，古人利用天然磁铁矿石雕琢成一个杓形的东西，放在一个光滑的盘上，盘上刻着方位，利用磁铁指南的作用，可以辨别方向，勺柢指向的就是南方，因此后来也叫做指南针。
指南针指向南方有两种原因，一是古代中国人指北不用指南针，而是用北极星，北极星指北是中国人的常识和传统习惯，就像日出指的是东方一样，有了这个指北的标志物，任何事物是不能和它争锋抗衡的。
另一个原因是在我国古代文化里，南为阳，北为阴，活人都以阳为尊。古代一直以面向南方为尊位，并且有“南面为王，北面而朝”之说，意思是面朝南方位的称帝王，面朝北方的则是朝拜君王的臣子，帝王就座议事都是面向南方，所以指示方向，也以南为主。
产生背景
地球是一个大磁体。地球的两个极分别在接近地理南极和地理北极的地方。地球表面的磁体，当可以自由转动时，就会因磁体同性相斥、异性相吸的性质指示南北——这个道理，古人不够明白;但这类现象，古人已经发现。
磁现象的发现
先秦时代的中国劳动人民已经积累了对磁现象的认识，在探寻铁矿的时候，常常遇到磁铁矿，即磁石(主要成分是四氧化三铁——化学式Fe3O4，别名氧化铁黑、磁铁、吸铁石，为具有磁性的黑色晶体，故又称为磁性氧化铁)。《管子》的数篇中早已记载了这些发现：“山上又磁石者，其下有金铜。”《山海经》中也有类似的记载。磁石的吸铁特性很早被人发现，《吕氏春秋》九卷精通篇就有：“慈招铁，或引之也。”古人称“磁”为“慈”。古人把磁石吸引铁看作慈母对子女的吸引。并认为：“石是铁的母亲，但石有慈和不慈两种，慈爱的石头能吸引他的子女，不慈的石头就不能吸引了。”汉以前古人把磁石写成“慈石”，是慈爱石头的表达。到了西汉，有一个名叫栾大的方士，他利用磁石的特性做了两个像棋子的东西，通过调整两个棋子极性的相互位置，有时两个棋子相互吸引，有时相互排斥。栾大称其为“斗棋”。他把这个新奇的玩意献给汉武帝，并当场演示。汉武帝惊奇不已，龙心大悦，竟封栾大为“五利将军”。
李约瑟的观点，他在《中国对航海罗盘研制的贡献》一文，有明确的阐述。他从《古今注》、《管氏地理指蒙》、《九天玄女青囊海角经》等书的记载中推测出如下结论：“磁石指向性转移到它吸过的铁块的发现在中国大约在一世纪到六世纪。在十一世纪以前的某个时期就已发现，不仅可以用铁块在磁石上磨擦产生磁化现象;而且还可以用烧红的铁片，经过居里点(CuriePoint)，冷却或淬火而得到磁化，操作时，铁片保持南北方向。
