Jótanács: mielőtt nekivágnál, előbb tudd, hogy mit akarsz! Nincs oprendszerírás szent-grál, hiszen pont az a lényeg, hogy valamit máshogy akarsz megvalósítani, mint a mostani rendszerek (ha nem így lenne, nem lenne értelme megírni, ugye).
Pár dolog, amin érdemes elgondolkodnod:
1. hogy induljon? Saját boot loadert akarsz írni, vagy inkább használod a GRUB Multiboot-ot?
2. milyen kernelt akarsz? Micro, monolitikus, esetleg exo?
3. milyen fs-t akarsz? Megfelel valami létező, vagy speciális igényeid vannak?
4. milyen toolchainnel akarsz dolgozni? ELF vagy PE binárisokat akarsz futtatni, vagy netán sajátot?
5. ne akarj egyből GUI-t! Nagy eredmény, ha van egy egyszerű parancssorod, ami igazi taskként fut (és kommunikál a billentyűzet driverrel meg a tty screen driverrel).
Összefoglalva, ahonnan érdemes elindulni:
http://www.minix3.org/
http://wiki.osdev.org/
http://www.osdever.net/
http://superfrink.net/athenaeum/OS-FAQ/os-faq.html
http://www.ctyme.com/rbrown.htm (hamar megtanulod, mi az a RBIL, megkerülhetetlen :-)