Uniform Server ist ein genial einfach gehaltener Server, den man ohne weiteres auf einen USB packen kann.
Praktischerweise gibt es im Wiki auch gleich ein Tutorial, wie man WordPress auf selbigen installiert. Aber auch weitere Anleitungen finden sich dort.