Los métodos de detección basados en anomalías utilizan inteligencia artificial y machine learning para crear y perfeccionar continuamente un modelo de referencia de la actividad normal de la red. El IPS compara la actividad de la red en curso con el modelo y responde cuando encuentra desviaciones, como un proceso que emplea más ancho de banda de lo normal o un dispositivo que abre un puerto que normalmente está cerrado.
Dado que los IPS basados en anomalías responden a cualquier comportamiento anormal, a menudo pueden bloquear ciberataques totalmente nuevos que podrían evadir la detección basada en firmas. Incluso pueden detectar explotaciones de día cero que se benefician de las vulnerabilidades de software antes de que el desarrollador de software las conozca o tenga tiempo de aplicar parches.
Sin embargo, los IPS basados en anomalías pueden ser más propensos a falsos positivos. Incluso una actividad benigna, como un usuario autorizado que accede por primera vez a un recurso sensible de la red, puede activar un IDS basado en anomalías. Como resultado, los usuarios autorizados podrían ser expulsados de la red o tener bloqueadas sus direcciones IP.