涵芬楼是商务印书馆早期所办图书馆的名称，创建于1904年。因为它是编辑人员经常工作和学习的地方，有些编辑喜欢以其代称商务，所以它又成为商务的雅称。、

    涵芬楼是张元济一手创办的。1903年，张元济出任商务编译所所长，编译书稿时，每遇疑问，常苦于无资料可查，于是便着手筹建编译所图书资料室。经蔡元培介绍，他首先购进绍兴徐氏熔经铸史斋的全部藏书，后来又陆续收购了太仓顾氏、海宁孙氏、南海孔氏等收藏家的藏书。凡遇国内名家藏书散出，他总是尽力收罗。到1909年，藏书日益増多，乃迁至宝山路新建编译所的三楼上，正式定名为“涵芬楼”，取涵盖芬芳、包容智慧之意。、涵芬楼的创建对商务书稿的编译、审核、加工，以至提高图书质量都起到了重要的保证作用。如在编纂《辞源》的过程中，对词汇的解释，所引用的大量书证，正是得益于涵芬楼的藏书。涵芬楼也为商务延揽人才、培养人才创造了条件。1914年，胡愈之进商务工作时对图书馆的设立十分欣赏，他在一篇回忆文章中写道：“商务印书馆有个藏书丰富的图书馆，职工可以随时去借阅图书，这对我的自学有很大的好处。”比他晚两年进馆工作的茅盾则说：“不为名，不为利，只贪图涵芬楼藏书丰富，中外古今齐全，借此读点书而已。”可见涵芬楼在编辑们心中的位置。
20年代前后，商务利用涵芬楼藏书和国内外公私收藏的善本为母本，影印出版了《涵芬楼秘笈》《四部丛刊》《续古逸丛书》《百衲本二十四史》等丛书，为整理古籍、传播文化作出了贡献。

    由于张元济等人对图书收集的不懈努力，涵芬楼藏书越来越多，规模越来越大。1924年商务出资10万元，在宝山路总厂对面建造了一座五层大楼，将涵芬楼藏书全部迁入，新楼取名“东方图书馆”。善本书藏于三楼，仍名“涵芬楼”，成为东方图书馆的一部分。