唐朝初年，出现了以傅奕为主要代表的反佛教的呼声，出现对佛教的攻击，因此，为了应对当时的反对浪潮，当时的高僧法琳撰写了《破邪论》作为反击，并请当时著名的书法家虞世南为之作序。
虞世南一生历经陈、隋、唐三个朝代，并再朝廷中担任不同的官职，尤其是在唐初，跟随李世民之后，他的仕途最为显赫，也在此时也是他的书法大放光彩的时期。
虞世南的书法先承家学，之后又得到王羲之七世孙智永和尚的指导，书法风格开始向王羲之靠拢，并且虞世南刻苦对于书法的研习，已经到了痴迷，据史书记载，寝卧时在被褥中在肚皮上用手指比划练字，这也为虞世南打下了坚实的书法功底，可谓“妙得其体”。
虞世南在继承二王的传统，形成了外柔内刚、笔致圆融、遒丽之气。与欧阳询、褚遂良、薛稷并称唐初四大书家，称得上是接魏晋之余，启盛唐之绪。
虞世南在继承王羲之“重意善韵”的书法主张，强调书法的妙悟，书法创作的过程是书家心手相应的过程。
《破邪论》的书法清逸，吸收了二王之长，它的结体疏朗而不失紧密，笔法圆润而又方劲，秀丽静和，内含刚劲与含蓄之美，是唐初继承魏晋小楷之正脉，字势自如，布局天巧，被认为是历代小楷之模板，备受珍视，被认为是唐代小楷第一。
如明代王世贞《弇州山人续稿》曾云：“世南书迹本自稀，而楷法尤不易得，小者唯《破邪论序》，稍大者《孔子庙堂碑》而已，《破邪》积能之极，几夺天巧，所谓不入二王室，犹似不能忘情于蹊迳耳。”
但此帖却有人质疑它的真假，有可能是托名所做。首先文中的“太子中书舍人”，与史料记载的秦王宫只有“中舍人”不合。
再者就是文中“披薛荔于山阿”的“荔”字，没有避讳虞世南父亲的名讳，所以也被学者推断，《破邪论序》可能是唐代的僧徒所书。
《破邪论序》虽然存疑，认为不是虞世南所作，但它的用笔刚柔相济，结体变化丰富，仍被世人所称赏。
清人王澍：“虞永兴书筋力内涵，风姿外朗，如有道之士，世人不能一毫婴之。独《破邪论序》笔韵清逈，与率更为近。”
小楷《破邪论序》在书法史上的地位，即便是托名之作，但也不能掩盖其艺术价值。