辛公义是陇西狄道人，早年就死了父亲，由母亲抚养长大。母亲亲自教他读书，他十分勤奋，学问和人品也都令人称赞，被挑选去做了太学生。当时的人都很仰慕他。
学成后，辛公义参加了隋朝统一全国的战争，因功出任岷州刺史。
隋文帝仁寿元年，任命辛公义为扬州道黜陟大使，巡视扬州。扬州总管豫章王杨暕害怕自己的属官有犯法的，预先叫人去迎接辛公义，并向他打招呼，请他多多关照。
杨暕是隋炀帝次子，他自己也多行不义，为人极其荒唐，骄恣不法。
辛公义为人刚正不阿，见杨暕派人来打招呼，立即义正词严地回答说：“我奉皇上的命令而来，是不敢徇私情的。” 为此，杨暕十分恨他。
辛公义到扬州后，对犯法的官吏毫不宽容，依法定罪。后来，杨暕的心腹扬州长史王弘到皇宫当了黄门侍郎。他借机公报私仇，常在隋炀帝面前说辛公义的坏话。隋炀帝听信谗言，竟罢免了辛公义。辛公义被罢官了，好些官员络绎不绝地到皇宫门外为他喊冤。几年后，隋炀帝终于醒悟，下令让辛公义官复原职。
辛公义后来调任牟州刺史，初到任，就先到监狱里去，亲自审问案情。十多天内，把案件全部判断完，才回到大厅。受领的新案子，都不用文字记下来，派一个掌 管办事的辅助官员，坐在一旁审问。若案子没审完，当事人必须要监禁起来的时候，辛公义就回到厅里住宿，案子不结案，他不回到内室睡觉。有的人劝他说，“案子这事需要有一定的时间，你何必折磨自己呢！”辛公义回答说：“我作刺史没有德行可以教导百姓，还让百姓拘禁在狱中，哪里有被监禁的人在狱中而自己心里踏 实的呢？”罪人听到这后，都诚心服罪。后来有想打官司的，那人乡里的父老就开导地说：“这是小事，怎么能忍心让刺史大人辛苦劳累。”打官司的人大多双方相 让而不再打官司。
简评：
辛公义不买权贵面子，以百姓心为心，百姓也记挂着他不忍劳累史大人，这样一生不白活。如果官员都廉洁公正，邪气歪风也不会猖狂。
