玉作为一种天然装饰品，很早就佩戴于人身上。文字学家研究发现，玉字最早出现于甲骨文，其字形就是一串玉的形象。
那么是不是可以据此推断出，最早在我国商朝晚期（甲骨文也叫殷墟文字，主要指中国商朝晚期王室用于占卜记事而刻在龟甲或兽骨上的文字），人们已经对玉有了一定的认识，并且具备了相应的加工技术，使玉进入到人们的生活，成为常见的一种装饰品。
从玉的字体来看，古人的玉质饰品并不是单个的，而是呈现出特定的结构，以组合的方式发挥装饰的作用。这就是说古人的玉饰品多为组玉、玉串，而少见单个的玉饰。
玉本质是一种矿物，《说文解字》就说“玉，石之美者”，因此玉也叫玉石。论价值，它不如贵金属金、银、铜稳定，也没有金银之类的可量化的纯度标准，但由于古人对玉的特性及不同质地、颜色的玉的发现，玉被赋予了更丰富的内涵，因此发展到周朝，玉已经成为君子（最初主要指士及士以上的贵族阶级）的生活必需品。《礼记·玉藻》：“古之君子必佩玉”，而金、银、铜则没有这样的地位。到了汉朝，玉具有仁、义、智、勇、洁五种美德（《说文解字》：“有五德：润泽以温，仁之方也；理自外，可以知中，义之方也；其声舒扬，尃以远闻，智之方也；不桡而折，勇之方也；锐廉而不技，絜之方也”）的观念已经成为了社会共识。
这说明佩玉并不像穿金戴银一样摆阔气，彰显富贵气息，而是传达出不一样的价值观。
从《玉藻》的记载可以确定古代君子有随身佩玉的要求，但并不是佩戴单个的玉饰，而是佩戴用丝绳串联的组玉。在古代“三礼”的部分篇章中可以看到对这种组玉的详细描述，在《说文解字》玉部的诸多汉字中也可以看到组玉部件的专业名称，从近代墓葬考古发现的春秋战国时楚国贵族的佩玉也得到印证。
不过周朝的贵族佩玉并不只一串，还要分别悬挂在身体两侧，这两侧的佩玉并不相同，二者有着严格的区分并不能随意佩戴。佩玉的颜色、质地依据个人身份而不同，且左右两侧佩玉的串联方式也不同。经过特定规则的搭配，左侧佩玉相互碰撞会发出宫声、羽声，右侧佩玉相互碰撞会发出角声、徵声，因此走得快就会合奏出《采齐》的曲调，而走得慢则会合奏出《肆夏》的曲调。
当然佩戴多组佩玉，并不是为了自带出场音乐，也不是作为随身听给自己解闷儿，更不是为了炫耀雄厚财力，是为了节制自己，达到正姿、修德的目的。
玉虽然为石质，但质地并不如大青石坚硬，更何况经过雕刻、打磨后作为佩玉悬挂在身上，还要频繁承受冲击，自然容易破碎。因此佩玉后就要注意节制自己的动作，最好是一举一动都与佩玉碰撞发出的节奏合拍。如果动作过于迟缓，则佩玉不会发声；如果动作过于急速，则佩玉乱不成声，又容易将玉碰碎，因此佩玉的首要意义就是对人的行为做一个节制。
佩玉对人行为的节制不仅在动态，也在静态。当佩玉之人侍奉尊长时，要微微弯腰，弯腰到什么程度合适呢？要使佩玉离开身体悬垂而下；如果需要保持直立，就让佩玉贴着身子。这就是佩玉的正姿作用。
佩玉的修德作用主要表现在两方面，一方面在于佩玉发出的声音，另一方面在于玉的独特品质。
佩玉发出的声音可以吸引人的注意力，使人的心念有所维系，就不会胡思乱想产生不好的念头。同时听着佩玉发出清脆悦耳的雅乐曲调，对人也起到正面的引导、暗示的作用，就会阻止外来的邪念进入心中。这犹如和尚们边走边念诵佛号，或敲击木鱼一样，佩玉也有助于佩玉者实现正念的目的，这不就是修德吗？
《荀子·劝学》：“玉在山而草木润，渊生珠而崖不枯。”这不是夸大玉的神奇作用，而是以玉和环境的相互作用来隐喻人与社会的关系，期望君子如玉一样对社会能起到一定的净化、美化作用，起到美好德行的示范引领作用。
《玉藻》：“君子无故玉不去身”，就是因为君子要时刻以玉来提醒自己修德，以佩玉来帮助自己正姿，最终达到如玉一样静而温润细腻，动而合乐合礼的境地。现代人常说佩戴玉石好，为什么好，除去迷信、养生的说法，这就是最好的解释，最根本、最人文的原因。
玉不离身表示修德，穿金戴银表示富贵，这完全是两种不同的人生取向。
