春秋时代，有个叫俞伯牙的人，精通音律，琴艺高超，是当时著名的琴师。俞伯牙年轻的时候聪颖好学，曾拜高人为师，琴技达到水平，但他总觉得自己还不能出神入化地表现对各种事物的感受。
俞伯牙的老师知道他的想法后，就带他乘船到东海的蓬莱岛上，让他欣赏大自然的景色，倾听大海的波涛声。俞伯牙举目眺望，只见波浪汹涌，浪花激溅；海鸟翻飞，鸣声入耳；山林树木，郁郁葱葱，如入仙境一般。
一种奇妙的感觉油然而生，耳边仿佛咯起了大自然那和谐动听的音乐。他情不自禁地取琴弹奏，音随意转，把大自然的美妙融进了琴声，俞伯牙体验到一种前所未有的境界。老师告诉他：“你已经学会了。”
一夜伯牙乘船游览。面对清风明月，他思绪万千，于是又弹起琴来，琴声悠扬，渐入佳境。忽听岸上有人叫绝。伯牙闻声走出船来，只见一个樵夫站在岸边，他知道此人是知音当即请樵夫上船，兴致勃勃地为他演奏。
伯牙弹起赞美高山的曲调，樵夫说道：“真好！雄伟而庄重，好像高耸入云的泰山一样！”当他弹奏表现奔腾澎湃的波涛时，樵夫又说：“真好！宽广浩荡，好像看见滚滚的流水，无边的大海一般！”伯牙兴奋极了，激动地说：“知音！你真是我的知音。”这个樵夫就是钟子期。从此二人成了非常要好的朋友。
两人分别约定，明年此时此刻还在这里相会。第二年，伯牙如期赴会，但却久等子期不到。于是，伯牙就顺着上次钟子期回家的路去寻找。半路上，他遇到一位老人打听子期的家。这一打听才知道，原来，这位老人正是子期的父亲。老人告诉伯牙，子期又要砍柴又要读书，再加上家境贫寒，积劳成疾，已经在半月前去世了。
子期去世时担心伯牙会这在里久等，叮嘱老人一定要在这一天来通知伯牙。听到这个消息后悲痛欲绝。他随老人来到子期的坟前，抚琴一曲哀悼知己。曲毕，就在子期的坟前将琴摔碎，并且发誓终生不再抚琴。自此始有高山流水遇知音，伯牙摔琴谢知音的典故，后有称颂其事，在此筑馆纪念，称为琴台，现琴台东对龟山，西临月湖，成为武汉著名古迹胜地。
伯牙，春秋战国时期晋国的上大夫，原籍是楚国郢都（今湖北荆州）。经考证，伯牙原本就姓伯，说他“姓俞名瑞，字伯牙”是明末小说家冯梦龙在小说中的杜撰，而在此之前的《史书》与《荀子》、《琴操》、《列子》等书中均为“伯牙”。东汉高诱注曰：“伯姓，牙名，或作雅”，现代的《辞源》也注曰：“伯姓牙名”。伯在古代是个很普通的姓，如周武王时不食周粟的伯夷，秦穆王时擅长相马的伯乐等。
钟子期，名徽，字子期。春秋楚国（今湖北汉阳）人。相传钟子期是一个戴斗笠、披蓑衣、背冲担、拿板斧的樵夫。历史上记载俞伯牙在汉江边鼓琴，钟子期感叹说：“巍巍乎若高山，荡荡乎若流水。”两人就成了至交。钟子期死后，俞伯牙认为世上已无知音，终身不再鼓琴。