وكان جده لأمه: عبيد الله بن عثمان بن يحيى أبا القاسم الدقاق، المعروف بابن "جليقا" بالجيم واللام والمثناة التحتية بعد قاف ممدودة، أو ابن "جنيقا" بإبدال اللام نونًا، نسبة إلى أحد أجداده. ولد جده المذكور سنة "318هـ"، وكان ثقة مأمونًا مكثرًا. روى عن المحاملي، وعنه العتيقي والأزهري وابن بنته أبو يعلى.
قال عنه أبو الفوارس: "كان ثقة مأمونًا، حسن الخلق، ما رأينا مثله في معناه".
وقال ابن الجوزي: "كان صحيح السماع، ثبت الرواية". مات في شهر رجب سنة "390هـ"[1].
وتقف المصادر التي اطلَعت عليها على ما ذكرت من أجداد القاضي أبي يعلى، غير ذاكرة أصله الذي ينتمي إليه، وإنما اكتفت بأنه بغدادي المولد والنشأة والوفاة. [1] البداية والنهاية "11/ 326"، وتاريخ بغداد "10/ 377"، واللباب "[1]/ 299"، والمنتظم "7/ 210". مولده: ولد القاضي أبو يعلى في شهر محرم لتسع وعشرين أو ثمان وعشرين خلون منه، سنة ثمانين وثلاثمائة هجرية.
نقل ذلك الخطيب البغدادي في "تاريخ بغداد"[1]، قال: "حدثني أبو القاسم الأزهري، قال: كان أبو الحسين بن المحاملي يقول: ... سألته -أي القاضي أبا يعلى- عن مولده، فقال: ولدت لتسع وعشرين أو ثمان وعشرين ليلة خلت من المحرم سنة ثمانين وثلاثمائة".
1 "2/ 256".