Los métodos de detección basados en anomalías utilizan la inteligencia artificial y el machine learning para crear y perfeccionar continuamente un modelo de referencia de la actividad normal de la red. El IPS compara la actividad de red en curso con el modelo y responde cuando encuentra desviaciones, como un proceso que usa más ancho de banda de lo normal o un dispositivo que abre un puerto que generalmente está cerrado.
Dado que los IPS basados en anomalías responden a cualquier comportamiento anómalo, a menudo pueden bloquear ciberataques totalmente nuevos que podrían eludir la detección basada en firmas. Incluso pueden detectar exploits de día cero, es decir, ataques que aprovechan vulnerabilidades del software antes de que el desarrollador las conozca o haya tenido tiempo de parchearlas.
Sin embargo, los IPS basados en anomalías pueden ser más propensos a falsos positivos. Incluso una actividad benigna, como el acceso por primera vez de un usuario autorizado a un recurso sensible de la red, puede activar un IPS basado en anomalías. Como resultado, los usuarios autorizados podrían ser expulsados de la red o ver bloqueada su dirección IP.