与魏国史官《竹书纪年》相隔一百年，西汉司马迁又将“庐山”之名载于《史记》。《史记·河渠书》中有“余南登庐山，观禹疏九江”之记载，“庐山”之名始见于此。司马迁是我国历史上第一个登上庐山的文人。
司马迁上庐山，翻开了庐山人文活动的崭新一页。庐山开始令世人瞩目，跃居天下名山行列。这在东汉班固《汉书·武帝纪》中有记载:“元封五年冬（公元前106年），上巡南郡，至江陵而东，登礼潜之天柱，号曰南岳。浮江自浔阳出枞阳，过彭蠡，礼其名山大川，北至琅琊并海上，四月至奉高修封焉。”《史记·封禅书》则如是记：“上巡南郡，至江陵而东。登礼潜之天柱山，号曰南岳。浮江，自浔阳出枞阳，过彭蠡，礼其名山大川。”从汉武帝此次出巡路线看，祭祀的名山当中就有庐山，并给汉武帝留下了深刻印象，乃“以潜之天柱为南岳，以庐山为贰”，列入西汉祀典。
从现在能查找到的古籍看，最早题咏庐山的诗为东汉顺帝建康元年（144）“庐山君”之女“婉”所作的《琴歌》：“登庐山兮郁嵯峨，唏阳风兮拂紫罗；招若人兮濯灵波，欣良运兮畅云柯；弹名琴兮乐莫过，云龙令兮登太和。”但“庐山君”究竟为何人？转载此作的晋代祖台之《志怪》，只说是庐山的一位神仙，实名未有，其女——“婉”，就更虚缈了。
今本《搜神记》卷四《建康小吏》条亦有曹着的简单记载：“建康小吏曹着，为庐山使所迎，配以女婉。着意不安，屡屡求请退。婉潸然垂涕，赋诗序别，并赠织成裈衫。”汪绍楹校注本谓：“本条未见各书引作《搜神记》。”则是否为《搜神记》原本，亦有可疑。而祖台之《志怪》则较为详细周密。
