I metodi di rilevamento basati su anomalie utilizzano l'intelligenza artificiale e il machine learning per creare e perfezionare costantemente un modello baseline per la normale attività della rete. L'IPS confronta l'attività di rete in corso con il modello e risponde quando rileva eventuali deviazioni, come un processo che utilizza più larghezza di banda del normale o un dispositivo che apre una porta che solitamente è chiusa.
Poiché gli IPS basati su anomalie rispondono a qualsiasi comportamento anomalo, spesso possono bloccare nuovi attacchi informatici che potrebbero eludere il rilevamento basato sulle firme. Possono persino rilevare gli exploit zero-day, ovvero attacchi che utilizzano le vulnerabilità del software prima che lo sviluppatore del software ne venga a conoscenza o abbia il tempo di correggerle.
Tuttavia, gli IPS basati su anomalie potrebbero essere più soggetti a falsi positivi. Anche l'attività benigna, ad esempio un utente autorizzato che accede a una risorsa di rete sensibile per la prima volta, può attivare un IPS basato su anomalie. Di conseguenza, gli utenti autorizzati potrebbero essere allontanati dalla rete oppure i loro indirizzi IP potrebbero essere bloccati.