עם הקמת המדינה, פעל דויד בן גוריון ליצור אחידות ממלכתית בכל תחומי החיים במדינת ישראל. תהליך זה נקרא ממלכתיות ובן גוריון היה נאמן לו מן ההתחלה. מטרתו של בן גוריון נתקלה בקשיים והתנגדויות של מרבית המחתרות והכוחות הלוחמים לפני הקמת המדינה. גם בקרב חבריו של בן גוריון – הפלמ"ח התנגדו ורבים איימו לפרוש.
ארגון ההגנה היה נתון למרות הנהגת היישוב , בניגוד למחתרות וארגונים אחרים שפעלו באופן עצמאי, למרות שלעיתים היה שיתוף פעולה. עם הקמת המדינה חויבו הארגונים השונים להתפרק ולהצטרף לכוחות הביטחון הרשמיים. המחתרות, בעיקר האצ"ל הסכימו להצטרף לצה"ל, אבל במסגרת גדודית, לעומת חברי הלח"י, שהסכימו להצטרף כיחידים. לאחר פרשת אלטלנה חויבו חברי האצ"ל לפרק את המסגרות הגדודיות ולהצטרף כיחידים ליחידות הצבא השונות.
דויד בן גוריון הקפיד על ביטול גופים עצמאיים בתוך הצבא ולכן מנע ולא אפשר את הקמתם, כפי שניתן להבין מפירוק האצ"ל, מפיזור הפלמ"ח בצבא וממניעת הקמת יחידות נפרדות של המפלגות הדתיות. תהליך הקמת צה"ל נמשך 7 חודשים.
פירוק הפלמ"ח
לקראת סוף ספטמבר 1948 החליט בן גוריון לפרק את הפלמ"ח. בקרב חברי הפלמ"ח וחברי מפלגת הפועלים התעוררה התנגדות רבה. בן גוריון בתמיכת מוסדות ההסתדרות הצליח להעיר את החלטת הפירוק. בן גוריון כתב איגרות לחברי הפלמ"ח והסביר את החשיבות לביטול מסגרות שאינן מטעם המדינה. ההוראה הועברה למפקד הפלמ"ח, יגאל אלון על ידי הרמטכ"ל , יעקב דורי.
המשמעות הראשונה של החלטתו של בן גוריון, שמעתה אי אפשר לגייס לוחמים לשורות הפלמ"ח, אלא רק לצ.ה.ל.
מה היו מניעיו של בן גוריון בפירוק הפלמ"ח ?
תפיסת הממלכתיות של בן גוריון , משמעותה הקמת גופים המחויבים למדינה ולכל אזרחיה, נועדה לבטל את חילוקי הדעות שהיו אופיניים לישוב היהודי, כאשר כל גורם הקים לעצמו מוסדות וגופים נפרדים, התאימו למציאות לפני הקמת המדינה. עם הקמת המדינה פעל בן גוריון לאחד את מרבית גופי המדינה תחת מסגרת אחת, ממלכתית.
בנוגע לאופיו של הצבא, עוד בשנת 1947, בן גוריון החליט, שצריך לצמצם את "המאבק הרצוף" בבריטים, מכיוון שהם עלולים לפגוע קשה ביישוב. דויד בן גוריון התמקד בבניית צבא למדינה שבדרך, צבא שיהיה מוכן להתמודד עם האתגרים הבאים, אם ואחרי יציאת בריטניה מארץ ישראל. בן גוריון נטה להקים צבא המתבסס על חיילים ומפקדים ששרתו בצבאות מודרניים במהלך המלחמה, המכירים את תורת הלחימה המודרנית. לפי גישה זו פירוק המחתרות הוא מתבקש, והקמת צבא אחד למדינה הוא הכרח מבחינתו.
נוסף לכך, בפירוק המחתרות ביקש בן גוריון לצמצם את השפעתם המפרידה של חברי המחתרות, הן של הפלמ"ח והן של המחתרות האחרות, האצ"ל והלח"י.
אם כן תפיסתו של בן גוריון, הייתה פוליטית וגם מקצועית, מצד אחד צמצום בסיס הכוח של מתנגדיו הפוליטיים ויצירת צבא אחד המבטא את מעמדה של ממשלה נבחרת כמקור הסמכות הבלעדי של המדינה. לעמדתו של בן גוריון היתה השפעה על הויכוח הפוליטי בישראל, מתנגדיו ניסו בדרכים דמוקרטיות: כינוס המפלגה, הצעת לסדר ושאילתות ב"מועצת העם" (הכנסת), ניסיון להעלות את התנגדותם גם במוסדות ההסתדרות, בתנועות הנוער, התנועות ההתיישבותיות, בעיתונות המפלגתית. תפיסת מתנגדיו הייתה, שיש ליצור צבא עממי המתבסס על רוח ערכי ומורשת הפלמ"ח, על האידיאולוגיה של מפלגות העבודה.
בסופו של עניין, הויכוח שהתנהל במהלך מלחמת העצמאות, התקבלה עמדתו של בן גוריון.
פרוק האצ"ל הלח"י
שתי המחתרות האלו הסכימו להתפרק ולהשתלב בצבא-הגנה לישראל, אם כי בתנאים מסויימים. הן הבינו את המשמעות של הפסקת המאבק להקמת המדינה ו"שילוב ידיים" למען המטרה עליה נאבקו, הקמת מדינה יהודת עצמאית. בנקודה זו גישת הממלכתיות, המחתרות היו בדעה דומה לעמדתו של בן גוריון.
הלח"י, קיבל את הוראת ההתפרקות ב 28/5/1948, אך רק מחוץ לאזור ירושלים. ירושלים, בתקופה זו עדיין לא נכללה בתחום מדינת ישראל, ולכן המאבק שם עדיין לא הסתיים.
האצ"ל,הגיע להסכם שבו, הארגון יפסיק להתקיים כארגון נפרד. חברי הארגון החדשים יתגייסו ליחידות שונות בצבא המדינה, וחברי הארגון ישתלבו בצ.ה.ל כגדודים שלמים. גם האצ"ל הגביל את ההסכם מחוץ לאזור ירושלים. תהליך פירוק האצ"ל ושילובו ארך כחודש, ולווה בקשיים רבים.