霍元甲逝世后，当时精武会弟子和上海武术界爱国人士为霍元甲举行了隆重葬礼，敬献了“成仁取义”挽联，安葬于上海北郊。转年，由弟子刘振声扶柩归里，迁葬于小南河村南。上海精武会由元甲之弟元卿、次子东阁任教。各地分会相继分起，十数年后，海内外精武分会达43处，会员逾40万之众。

有传说霍元甲被日本人下毒药害死之后，他的爱徒陈真替他报仇。这个传说在1960年代末70年代初首次被李小龙搬上银幕（电影《精武门》，李小龙饰陈真）。但其实历史上并没有“陈真”这个人物，“陈真”是艺术家们根据刘振声的若干事迹塑造出来的，目的是为了让故事情节更加好看，但是历史上，刘振声的确是霍元甲的大弟子，霍元甲被日本人下毒害死也是真实的。1989年修建霍元甲陵园时，对霍元甲遗骨进行化验，证实是被毒死的。 此外还有有关霍元甲的长篇历史小说《津门大侠霍元甲》（作者：冯育楠，百花文艺出版社），通过作者考证的一些史料，基本再现了一代大侠霍元甲的风貌。

坐落在天津市西青区小南河村 ，1986年天津市西青区人民政府整修了霍元甲故居、修建了霍元甲陵园，用以纪念这位名震中外的爱国武术家。1997年再次修葺了霍元甲故居，扩建了霍元甲陵园，辟为“霍元甲故居纪念馆” , 霍元甲故居纪念馆由霍元甲故居和霍元甲陵园两部分组成 。故居建于清同治初年。1997年，在其原址翻盖成青砖瓦房的三合院。跨进小院门楼，是一镶有“福”字的影壁墙。影壁墙后面是一明四暗五间正房，小院左、右各有厢房一间，中间正房挂着霍元甲遗像，两侧是霍东阁在霍元甲遇害后所写的唁联“一生侠义，盖世英雄”。西屋霍元甲书房墙上高挂着孙中山为精武体育会的题词：“尚武精神”。故居内陈列了一些霍元甲练武时所用的武器和精武会的会旗等文物，以及霍元甲生前用过的遗物。霍元甲陵园位于小南河村南，占地近一公顷，整体建筑采用轴线对称式布局。由神道、石狮、享殿、石牌坊、寝园组成。陵园还设有霍元甲生平事迹陈列馆。

1910年6月1日，霍元甲结合时势，在农劲荪等武术界同仁协助下，在上海创办了“中国精武体操会”（后改名精武体育会）。本会对会员之约束甚严，凡入会者，必有介绍人，入会后，若发现有不规则

行为，立予开除会籍。精武会创办于1910年，初由：陈公哲，农劲荪，陈其美，陈铁生等倡导，是中国建立最早的体育团体。 精武以体，智，德三星会旗和三星会徽为标记，代表精武以体，智，德三育为宗旨，倡导和发扬爱国，修身，正义和助人的精武精神，还订有包括人格，风度，言行，服务，友谊等行为规范。

霍元甲的品牌在上海滩立足后，同盟会再接再厉，于1909年当年就开始在闸北的王家宅筹备 “精武体操会”，自然挂的是霍元甲的名头：由霍主持精武技击并习军事，农劲荪担任会长。 “精武体操会”宣称以提倡尚武精神为目的，招收12~35岁的健康男子，每人收会费银元2元。

1910年，大清政府依法批准成立“精武体操会”，首批会员73人，成为日后反清的骨干。而霍元甲本人也在随后不久离奇死去，一般认为是被日本人下毒致死。

其实，类似精武体操会这样的武术团体，在晚清及民国初年，如雨后春笋般在全国涌现。这其间，自然有着强身-强国的朴素追求，但背后也掺杂了各种政治势力跑马圈地、拉杆子聚团伙、以期实现“枪杆子（包括刀把子）里面出政权”的现实目的。他的一生虽然短暂，但却轰轰烈烈，充满传奇色彩。