1895年11月16日，吳伯祿出生於德國多森海姆（Dossenheim）。1926年（30歲）畢業於奧地利維也納大學，5月13日成為聖言會神甫，同年來華，先在濟寧戴家莊學習中文。次年分配到青島任助理司鐸。1930年在莒縣傳教。1936年任聖言會高密分會會長。
1946年6月（50歲），吳伯祿任天主教青島教區代理主教。1948年7月8日，52歲的吳伯祿被任命為天主教青島教區主教。同年10月3日祝聖。1951年8月，吳伯祿因組織聖母軍被捕，後被驅逐出境。1954年被授予聯邦十字勳章。1964年11月18日於海德堡逝世，享年69歲。
