Allow plugins to have their own FrameRosters in core - have a callback
to determine whether or not a particular piece of damage should be tracked.

This is necessary for plugins that need to increase damage regions upon
incoming damage from older frames, but don't want to feedback on that
damage (such as the blur plugin).

Also fixed some potential overdraw problems with
PAINT_WINDOW_NO_CORE_INSTANCE_MASK