Название «нефрит» произошло от греческих слов nephros — почка и lapis — камень. Другие названия минерала и его разновидностей: почечный камень, камень маорн, камень тоиров, жад, канадский жад, пунаму. В старину считалось, что этот камень может вылечить от почечных колик.
Нефрит известен людям с глубокой древности. Первобытные люди изготавливали из нефрита ножи, топоры, наконечники стрел и копий. Однако до 1863 г. нефрит и жадеит считался одним минералом, который назывался «жад».
В Китае нефрит издавна считается национальным камнем. Еще в IV тысячелетии до н. э. на территории Китая изготавливали плоские, в форме диска с круглым отверстием в центре, амулеты из нефрита, носящие имя «би». Такие камни часто клали в могилы знатных людей. Считалось, что они помогают покойному вознестись на небеса. В 1968 г. была обнаружена усыпальница китайского принца Лю Шена, правящего провинцией Чжушань во II в. до н. э. Его тело было облачено в нефритовый костюм, сшитый из двух с половиной тысяч пластин из нефрита, скрепленных между собой золотой проволокой. Считалось, что тело покойного, облаченное в такую своеобразную броню, должно впитать в себя нетленность камня и победить смерть. В Древнем Китае из нефрита изготавливали бляшки, имевшие хождение наравне с монетами, гирьки из нефрита служили эталонной мерой при взвешивании золота, а парные пластины из нефрита служили паспортом для посланцев императора. Нефритовые бусы до сих пор являются знаком отличия высших государственных чиновников Китая.
В древней Месопотамии верили, что нефрит защищает от землетрясений и молний, лечит чуму и помогает уберечься от сглаза, содействует семейному благополучию и помогает облегчить трудные роды. Ацтеки и майя высверливали отверстия в зубах и крепили к ним пластинки из нефрита, считая, что такая инкрустация помогала сохранить зубы здоровыми до старости. В Самарканде, в мавзолее Гур-Эмир находится гробница великого Тамерлана, сделанная из зеленого китайского нефрита. Надгробная плита гробницы состоит из цельного куска черного нефрита. Из сибирского нефрита вырезан саркофаг царя Александра III.
Некоторые народы мира, например, папуасы Новой Гвинеи, использовали ножи и другие режущие изделия из нефрита вплоть до начала XX в.