Minix ist eine gute Wahl und wird in einer der anderen Antworten beschrieben.
Xinu
Beachten Sie auch XINU - XINU ist kein Unix.
Es ist auch UNIX rückwärts geschrieben.
Es gibt ein Buch von Douglas Comer, das meiner Meinung nach gut geschrieben, gut illustriert und umfangreich ist.
Es gibt ein Embedded Xinu und eine Website zum Unterrichten mit Xinu.
http://xinu.mscs.mu.edu/Teaching_With_Xinu
FreeRTOS
Ein weiteres kleines Betriebssystem, das heutzutage sehr beliebt ist, ist FreeRTOS. Es läuft fast alles. Wenn Sie vom Mars kämen und einen Prozessor oder eine Evaluierungsplatine hätten, auf der dieser nicht ausgeführt werden kann, könnten Sie etwa 10 Seiten Dokumentation lesen, etwa fünf Dateien in Bezug auf Interrupts, Timer und UARTs ändern und ausgeführt werden.
http://www.freertos.org/
Sie behaupten, dass es 31 Architekturen und 18 Werkzeugketten unterstützt. Meine Erfahrung Ende 2009 war gut und ich habe gehört, dass sie sich seitdem stark verbessert hat.
Andere Links
Eine ähnliche Frage mit hilfreichen Informationen finden Sie hier:
/programming/254149/how-do-you-write-a-basic-operating-system
Das Design von Linux und vielen anderen Betriebssystemen wird von UNIX beeinflusst, daher ist dieses Video, in dem die ursprünglichen Designer (Kernigan, Richie und Thompson und andere) Informationen liefern und die Designideen direkt aus der Quelle beziehen.
http://techchannel.att.com/play-video.cfm/2012/2/22/AT&T-Archives-The-UNIX-System
Es gibt ein klassisches, aber oft überarbeitetes Lehrbuch für Betriebssysteme:
Silberschatz, Galvin, Gagne: Betriebssystemkonzepte, 7. Auflage
Möglicherweise gibt es auch neuere Editionen. Ich verlinke selten über einen Buchhändler zu einem Buch, aber die Vorschau ist sehr großzügig. Weitere Informationen zu Betriebssystemen erhalten Sie unter:
http://www.amazon.com/Operating-System-Concepts-Abraham-Silberschatz/dp/0470128720