그러나 이러한 3가지 기능도 공무원의 정치적 중립성이 보장될 때에만 비로소 그것이 가능할 수 있다. 각국이 헌법에 공무원의 정치적 중립성을 규정하고 있는 것은 바로 그 때문이다. 우리 헌법에서도 제3공화국헌법 이래 “공무원의 신분과 정치적 중립성은 법률이 정하는 바에 의하여 보장된다”고 규정하고 있다. 여기서 공무원의 정치적 중립성이란, 대체로 정당의 영향으로부터의 그 독자성을 의미하는 정당정치적 중립성을 의미한다. 따라서 이 문제는 민주주의 국가의 본질적 구조에 의하여 설명되고 있다. 오늘의 민주주의 국가는 본질적으로 여러 정당의 존재를 전제로 하는 다원적 정당국가를 의미한다. 따라서 이러한 경우에는 대립된 그때그때의 이익에 대하여 항구적이며 통일적인 국가 이익의 유지가 요청되지 않을 수 없다. 이러한 국가의 정치적 구조에 있어서 공무원이 정치적 중립의 지위를 떠나서 그때그때의 정당의 정당적 이기주의에 영합할 때에는, 통일적이며 항구적이어야 할 국가적 생활은 파국에 직면하게 되고, 나아가 국가 그 자체의 위기로까지 발전하게 된다. 그러한 의미에서 직업공무원제의 그 정치적 중립성은 의회주의적 민주주의에 있어서 필수적인 전제로 간주되고 있다. 그것은 직업공무원제가 다원적 정당의 정치적 영향으로부터 독립함으로써, 국가적 통일성과 항구성을 보장할 뿐만 아니라, 또한 행정의 객관성에 대한 국민의 신뢰를 확보할 수 있기 때문이다.
따라서 오늘날 공무원의 정치적 중립여하는 국민소득과 함께 선진국 여부를 판단하는 가늠자일 수밖에 없을 만큼 중요한 문제이며, 특히 우리의 경우는 더욱 중요하다.