Add a caching level to the slim-mode with configurable size, so it actually
has decent performance.  It is implemented as a lossy sparse array with a
priority queue tracking how much of each block is used to ensure we maximize
the number of nodes we fit in the given amount of memory.

Also rearrange some header definitions.