“任何人都不得做自己案件的法官”是自然正義的基本精神，其實質在於保障法官的中立性和判決的公正性。這壹規則在普通法中的地位非常重要，以至於柯克認為它應淩駕於議會法律之上。將自然正義的上述規則應用於行政領域，將法官改換成行政機關工作人員，就形成了避免偏私，保持行政中立原則。這是對行政機關工作人員提出的最低限度的要求，是程序正義原則的基石。
1、基本要求
為了使行政機關在案件中保持中立的、超然的、不偏不倚的地位和態度，程序正義原則要求行政機關必須做到“沒有利益牽連”、“沒有個人偏見”。
“沒有利益牽連”首先是指行政機關工作人員及其親屬不得與案件有財產上的牽連。“任何直接的金錢利害關系，哪怕多麽微小，都是喪失資格的理由。”在1984年的壹個案件中，法院宣告地方當局授予某公司的許可無效。理由是該地方當局通過先前的壹份合同與該公司產生了財產上的利益牽連。按照合同的約定，如果地方當局不授予許可的話就要對該公司承擔賠償義務。其次，“沒有利益牽連”還包括不得與案件有精神上的或者感情上的利益關系，如影響案件公正審理的友誼或者恩怨關系等。
“沒有個人偏見”主要是指行政機關工作人員不得使個人的感情受到某種預設的觀點或偏好的支配。為了避免個人偏見的形成，任何人不得在同壹案件中既是追訴人又充當裁判者。如已經投票贊成起訴的治安法官不得再以裁決者的身份出現。當然，僅僅由於是控訴組織的成員並不必然導致其裁判資格的喪失，如某防止虐待動物協會的會員可以裁決由該協會提起的訴訟。
值得註意的是，避免偏私原則不僅要求行政機關工作人員要做到實質上沒有偏私，而且在外觀上也不能讓人們有理由懷疑可能存在偏私。避免偏私是壹個“表象比真實情況更為重要的領域”，必須達到排除他人合理懷疑的標準。在1956年的格林姆斯貝上訴案中，首席大法官戈達德說道：“我們強調的偏見是偏見的真實可能性，而不是確鑿的偏見。”此即休厄特法官經常被引用的壹句名言所說的：“正義不僅要實現，而且要人們明確無誤地、毫不懷疑地看到是在主持正義。”
2、適用範圍
隨著自然正義向行政領域的擴展，避免偏私原則在行政法領域的適用範圍非常廣泛，普遍適用於所有類型的行政行為。但是，有些情況法律不認為是偏私，或者看起來是偏私，但實際上不是偏私。這主要有：
(1)法律的排除性規定。“法院使用反對偏私原則是如此之嚴格，以至於議會在特定情況下授予豁免來予以緩解。”當議會法律中出現豁免條款或者庇護性條款時，法院不得堅持避免偏私原則的適用。在實踐中，法院對這類條款采取嚴格解釋的方法，以限制其應用範圍。法院認為，避免偏私是法律的默示條款，任何排除適用這壹公認的程序正義原則的情況必須有立法上的明確言詞。
(2)無法替代的行政機關。“不能做自己案件的法官”這壹原則的應用是以存在另外可以替代的法官為前提的。在法律將某項權力賦予唯壹的行政機關的情況下，即使該行政機關與案件有利益牽連，其所作出的決定仍然有效。因為除了該機關之外，其他任何機關都無權裁決。而且，如果該行政機關放棄行使職權，這本身就是違法的。在這種情況下，避免偏私的要求不得不讓位於必要性。否則，行政管理無法正常進行。如某殖民地總督有權批準關於豁免自己行為的法律，因為唯有他擁有這項權力。如果堅持適用避免偏私原則，其結果是該法律根本無法獲得通過。與此相類似，某環境國務大臣所發布的關於支付自己費用的命令也被認為是合法有效的。
(3)行政機關對政策的執行。執行政策以維護公***利益是行政機關職責之所在。因此，行政機關不顧反對意見而堅持執行政策的行為不能被認為存在偏見。1948年上議院的壹個判決代表了這種觀點。城鄉計劃部長擬在某地建設壹個新城，遭到了強烈的反對。部長派出壹個調查團調查。調查期間，部長親自到該地發表演講，聲稱：“妳們的譏訕是沒用的，工程就是要上馬。”調查報告顯示，反對的意見普遍存在，但是部長不顧反對意見仍然決定在該地建設新城。反對者認為大臣在決定作出之前就已經存在偏見，不符合公正的程序規則。上議院在判決中認為部長執行政策的決定不存在是否有偏見的問題。只要部長在作出決定前已經采取了法律規定的調查程序就是合法的，因而維持了部長的決定。