唐初诗文家。深州陆泽(河北深县)人。20岁中进士，曾以著作郎兼修国史。武则天朝，迁凤阁舍人、卫尉少卿，检校相王(即唐睿宗)府司马。唐中宗神龙年间，任吏部侍郎、晋州刺史。唐睿宗即位，召拜黄门侍郎，兼修国史。景云二年(711)，迁左散骑常侍，同中书门下三品。其时李隆基为太子，魏知古又兼太子左庶子。唐玄宗即位的先天元年(712)，擢为侍中，随驾出猎于渭川，献诗讽谕得失，以为“此欲诚难纵，兹游不可常”，受到唐玄宗嘉奖。次年，封梁国公。奉诏于东都主持吏部选事，徇公而忘私。开元二年(714)还京师，改紫微令，又改工部尚书。开元三年卒，终年69。《旧唐书·经籍志》、《新唐书·艺文志》著录文集20卷，《旧唐书》本传作7卷，但原本久佚。《全唐诗》卷91存诗5首。《全唐文》卷237载文4篇。