「指南」這個詞很奇怪，「南」相對的方向是「北」，明明有「南」和「北」兩個相對的方向，可是為什麼偏偏叫「指南」，而不叫「指北」呢？
原來，這跟中國古代測定方向的儀器有關。
在指南針發明之前，春秋戰國時期最早用來指示方向的儀器叫「司南」。「司南」的發明跟磁石密切相關。古人早就發現山上有一種神奇的能夠吸引鐵的石頭，這就是天然的吸鐵石。古人管這種石頭叫「慈石」，在東漢以前的古籍中一直寫作「慈石」，因為觀察到吸鐵石能夠吸引鐵，古人就認為吸鐵石為母，鐵為子，兩者之間的吸引關係就像母子之間的吸引關係一樣，故稱「慈石」，後來才改稱「磁石」。
工匠們把磁石雕琢打磨成一把湯勺的形狀，磁石的S極也就是南極磨成勺柄，然後再用青銅製成一面光滑如鏡的底盤，把湯勺放在底盤上，在底盤上刻出代表方向的紋路，轉動湯勺，湯勺靜止下來之後，勺柄指向的方向就是南方。湯勺轉動的時候，人們當然都盯著長長的勺柄轉動眼珠，當它靜止下來指向南方的時候，人們終於出了一口長氣，於是將這個儀器命名為「司南」。「司」是職掌、主管的意思。「司南」就是今天指南針的始祖。
《韓非子·有度》篇中解釋了制「司南」之初衷：「夫人臣之侵其主也，如地形焉，即漸以往，使人主失端，東西易面而不自知，故先王立司南以端朝夕。」陳奇猷先生說：「司南其制蓋如今羅盤針，故可以正朝夕也。朝夕猶言東西，日朝出自東，夕入於西，故以朝夕為東西也。」其實「司南」是先定南北，王充在《論衡》一書中解釋「司南」的形制：「司南之杓，投之於地，其柢指南。」從這時候開始，「司南」也開始叫「指南」，演變到今天，人們只知道「指南」一詞，而不知道「司南」一詞了。