La réforme la plus incisive depuis sa création est apportée au Conseil d'État en 1996.
À la base de cette réforme se trouve l'arrêt Procola de la Cour européenne des Droits de l'Homme du 28 septembre 1995.
Dans cette affaire ayant trait à des quotas laitiers, les juges de Strasbourg ont en effet estimé que la composition du Comité du contentieux du Conseil d'État ne remplissait pas l'exigence d'impartialité découlant de la Convention européenne des Droits de l'Homme. En effet, quatre conseillers d'État sur les cinq qui avaient siégé dans l'affaire Procola appliquaient un texte de loi au sujet duquel ils avaient déjà auparavant contribué à émettre un avis dans le cadre de la mission consultative du Conseil d'État. D'après la Cour européenne des Droits de l'Homme, Procola a pu légitimement craindre que les membres du Comité du contentieux se sentent liés par l'avis donné précédemment. Ce simple doute suffisait à altérer l'impartialité du Comité du contentieux.
En retenant les propositions faites par le Conseil d'État dans son avis sur le projet de loi portant réforme du Conseil d'État, la fonction juridictionnelle lui est enlevée à compter du 1er janvier 1997, en supprimant le Comité du contentieux, pour la confier à un tribunal administratif en première instance et à une cour administrative en appel.
Dans le train de cette réforme, les compétences du Conseil d'État en tant qu'organe consultatif sont renforcées. Le législateur investit le Conseil d'État de manière explicite d'une mission qu'il avait en fait déjà assumée dès sa création, c'est-à-dire du contrôle a priori de la conformité des projets de loi et de règlement grand-ducal par rapport à la Constitution, aux conventions et traités internationaux, ainsi qu'aux principes généraux du droit. Le contrôle a posteriori de la constitutionnalité des lois est, par la même occasion, confié à une cour constitutionnelle.
Cette réforme profonde de 1996 introduit encore deux nouveautés supplémentaires. Ainsi, la durée de la fonction de conseiller d'État est dorénavant limitée à quinze ans, non renouvelable, et le Conseil d'État peut se voir imposer un délai de trois mois pour émettre son avis dans le cadre de la procédure législative.
