关于石敢当的来历，民间有种传说，姜太公封神，封来封去，到最后却忘记了自己的名姓，便自封为泰山石敢当。姜太公在唐宋时期曾被奉为武成王，与文宣王孔圣，一武一文；明代以后，虽然关羽成为武圣，姜太公在民间仍很有影响，传说故事很多，巳有“姜太公在此，诸神退位”之说。把石敢当说成是姜太公的化身，正在于渲染石敢当辟邪的民俗信仰。
石借“虎威”，不仅在石敢当上表现虎的形象，还借刻石日期、立石时辰的选择来渲染神秘色彩。旧时广为流传的《鲁班经》宣扬这些：凡凿石敢当，须择冬至日后甲辰、丙辰、戌辰、庚辰、壬辰、甲寅、丙寅、戌寅、庚寅、壬寅，此十日乃龙虎日，用之吉。至除夕用生肉三片祭之，新正寅时立于门首，莫与外人见。凡有巷道来冲者，用此石敢当。
十二生肖辰属龙、寅属虎，故有“龙虎日”刻石之说。新正即新年第一天，古代以夏历建寅之月为正月，这是属虎的月份；“寅时立于门首”，仍取属虎之寅。
至于“泰山”与“石敢当”联袂，有两层内容。其一，巍巍泰山，五岳独尊，古代说它是通天达地之山，威加四海的帝王也要前去封禅。以泰山相标榜，石敢当岂不更加所向无敌？其二，标榜泰山，提供了山的角度，由此来观石敢当之“石”，视点正佳。壮石敢当的声威，为何不选东海、黄河，不选九重霄汉，偏偏取“泰山”两字写大旗？石自山出。这“山”同那“石”更多牵连。关于此，原始先民的万物有灵观念、古人的灵物崇拜，都可做注脚。从粗糙的石器，到精细的石器，石器使原始人抗争大自然的生存能力不断增长。石成为一种灵物。反映在神话传说中，补天的女蜗炼五色石做修补天空的材料，填海的精卫衔木石以埋东海。对石的崇拜，衍生出石敢当，也派生出埋石镇宅的风俗。南北朝时庾信《小国赋》：“镇宅以埋石。”宗懔《荆楚岁时记》：“十二月暮日，掘宅四角，各埋一大石为镇宅。”石块俨然成了具有法力的灵物。至于石敢当，因石而造神，有名有姓的“石将军”，姓“石”，只缘本来是石。
石敢当既被奉为神，司职由捍民宅而有所扩展。《茶香室丛钞》记清代齐鲁乡俗，巷口立“泰山石敢当”刻石，传说其会在夜暮时分去人家医病，因而“石将军”又称“石大夫”。另有一则传说：清代康熙年间，广东徐闻县，知县到任不久就丧命，一连几任均如此。黄某来赴任，请风水先生看，说是宝塔塔影落于知县的座位上，诸前任皆因不胜塔影之压而死。黄知县刻“泰山石敢当”石碑，立于县衙门前，以敌塔影。如果说，“人家正门适当巷陌桥道之冲”，立石敢当，是一种面对面的抵挡的话，那么，黄某立石敢当抗拒高塔塔影，石敢当的功能已由平面发展为立体了。
石敢当因冠以“泰山”，甚至被传为泰山神祗之父。泰山上有座碧霞饲，供奉泰山之主碧霞元君，民间又叫她泰山老母。关于碧霞元君的来历，有说是玉皇大帝的妹妹，而民间还传说她是贫苦农民石敢当的女儿：她心地善良，上山砍柴，时常帮助一个孤老太。老太太说她是仙女下凡，让她在泰山最大的一棵松树下挖到柴王埋下的木鱼，将一只绣花鞋埋在木鱼之下三尺。玉皇要在众神中选出来泰山最早者，封为泰山之主。柴王以埋在树下的木鱼证明自己的资历，石敢当的女儿则以埋于木鱼之下的绣花鞋挫败柴王，被封为碧霞元君。这个传说故事讲的虽是碧霞元君，但其同石敢当既为“父女”，两者的关系也就恰如水涨而船高——碧霞元君高至泰山主神，船高因水涨，反衬了石敢当的神异。