ועדת הערער תוקם על ידי שר המשפטים ותורכב משלושה חברים: שופט בדימוס הכשיר להתמנות לשופט בית משפט מחוזי ויהיה יו"ר הוועדה; לצידו נציג ציבור שאינו עובד מדינה והוא בעל ידע ומומחיות בתחום יחסי עבודה, ונציג ציבור אחר שימונה לפי הצעת השר בהמלצת הרמטכ"ל. בוועדה יוכלו אף לשרת משרתי קבע לשעבר, לאחר צינון של שנתיים מתום שירותם הצבאי.
החוק החדש מסמיך את ועדת הערער וגם את בתי המשפט לעניינים מנהליים, לדון בערעורים או בעתירות על החלטות שכר ותנאי עבודה הנוגעים לחיילים בשירות קבע. זאת על פי המאפיינים הייחודיים של שירות הקבע ותוך איזון בין זכויות משרתי הקבע לבין צרכי הצבא. נקבע גם כי הוועדה תוכל לשמוע עדים שיעידו לטובת הצדדים.
הערעורים שבהם תדון הוועדה החיצונית (ובעקבותיה בית המשפט לעניינים מנהליים) יהיו גם על רכיבי השכר והטבות נלוות כמו חופשה, פדיון ימי מחלה ומענקי שחרור וכן ניכויים שונים מהשכר. בנוסף, נקבע גם כי מקום מושב ועדת הערער לא יהיה במתקן צבאי אלא במתקן אזרחי.