在设计一个简单的应用程序时，可以不使用操作系统，但在设计较复杂的程序时，可能就需要一个操作系统（OS）来管理和控制内存、多任务、周边资源等。依据系统所提供的程序界面来编写应用程序，可大大减少应用程序员的负担。
对于使用操作系统的嵌入式系统来说，嵌入式系统软件结构一般包含4个层面：设备驱动层、实时操作系统RTOS、应用程序接口API层、实际应用程序层。有些书籍将应用程序接口API归属于OS层，嵌入式系统的软件结构，是按3层划分的。由于硬件电路的可裁剪性和嵌入式系统本身的特点，其软件部分也是可裁剪的。
对于功能简单，仅包括应用程序的嵌入式系统，一般不使用操作系统，仅有应用程序和设备驱动程序。现代高性能嵌入式系统的应用越来越广泛，操作系统的使用成为必然发展趋势。本小节主要讲述的是具有操作系统的嵌入式软件层次。
1.驱动层程序
驱动层程序是嵌入式系统中不可缺少的重要部分，使用任何的外部设备都需要有相应的驱动层程序的支持，它为上层软件提供了设备的操作接口。上层软件不会理会设备的具体内部操作，只需调用驱动层程序提供的接口即可。驱动层程序一般包含硬件抽象层HAL、板级支持包BSP和设备驱动程序。
板级支持包实现的功能大体有以下两个方面：
系统启动时，完成对硬件的初始化。例如，对系统内存、寄存器以及设备的中断进行设置。这是比较系统化的工作，它要根据嵌入式开发所选的CPU类型、硬件以及嵌入式操作系统的初始化等多方面决定BSP应实现什么功能。
为驱动程序提供访问硬件的手段。驱动程序经常要访问设备的寄存器，对设备的寄存器进行操作。如果整个系统为统一编址，则开发人员可直接在驱动程序中用C语言的函数访问设备寄存器。但是，如果系统为单独编址，则C语言就不能直接访问设备中的寄存器，只有汇编语言编写的函数才能进行对外围设备寄存器的访问。BSP就是为上层的驱动程序提供访问硬件设备寄存器的函数包。