Találtam modsecurityhoz egy ilyesmit is:
http://www.rfxn.com/projects/linux-malware-detect/
Elvileg van egy ilyen opció benne hogy:
"The support for HTTP upload scanning is provided through mod_security2's inspectFile hook.
This feature allows for a validation script to be used in permitting or denying an upload."
(Időm nem volt még foglalkozni vele részletesen, így véleményt/tapasztalatot még ne várjatok.)