היועץ המשפטי לממשלה אחראי לשמירה על שלטון החוק במדינה במובן המהותי- ערכי. מתוקף תפקידו, לשמור על שלטון החוק במדינה ולהגן על האינטרס הציבורי מפני פגיעה אפשרית מצד רשויות השלטון. היועץ המשפטי משמש כראש התביעה הכללית מטעם המדינה, מייעץ לממשלה בתחום המשפטי ומייצג את רשויות המדינה בבתי משפט. למרות חשיבות תפקידו, הרי שמעמדו, סמכויותיו, תפקידיו, אופן מינויו ופיטוריו עדיין לא הוגדרו בחוק.
בשנת 1997 הוקמה ועדת שמגר לדיון בנושא "חוק היועץ המשפטי" אשר המליצה שתואר משרתו של היועץ המשפטי לממשלה ישונה ל"יועץ המשפטי הראשי", ושהוא יתמנה על ידי הממשלה בהתאם להמלצות ועדה מקצועית ציבורית. כל זאת על מנת להבטיח שלתפקיד זה ייבחר אדם בעל כישורים מתאימים. היועץ מתמנה על ידי הממשלה, לפי המלצת שר המשפטים. הממשלה מוסמכת להעביר אותו מתפקידו. היועץ הוא עובד ציבור בעל שיקול דעת מקצועי ובלתי תלוי ברשויות השלטון אשר ממנות אותו. שיקוליו צריכים להיות אובייקטיביים ובלתי מפלגתיים.
תפקידי היועץ המשפטי לממשלה הם: ייעוץ משפטי לממשלה, לשרים ולרשויות המדינה (לסייע לממשלה בהכנת חוקים, לייצג את האינטרס הציבורי) ולהיות ממונה על רשויות התביעה הפלילית (התביעות הפליליות במדינה).
הפיקוח והביקורת על היועץ המשפטי היא בידי רשויות המדינה – הממשלה, הכנסת ובית המשפט. הממשלה מוסמכת לפטר את היועץ בכל עת שתחפוץ, אם כי רצוי שהחלטה כזאת תתקבל במקרים נדירים. גם הכנסת רשאית לבקר את היועץ המשפטי. הוא מוזמן לוועדות הכנסת, בעיקר לוועדת החוקה, חוק ומשפט, להסביר את החלטותיו ומדיניותו. החלטות אלה מעלות שאילתות, אשר עליהן עונה שר המשפטים בשמו של היועץ המשפטי. עם זאת, אין הכנסת יכולה להורות לממשלה לפטרו. אמצעי הביקורת היעיל ביותר הוא הביקורת השיפוטית של בג"ץ.