嵌入式系统的硬件架构，是以嵌入式处理器为中心，由存储器、I/O设备、通信模块以及电源等必要的辅助接口组成。嵌入式系统是量身定做的专用计算机应用系统，又不同于普通计算机组成，在实际应用中的嵌入式系统硬件配置非常精简，除了微处理器和基本的外围电路以外，其余的电路都可根据需要和成本进行裁剪、定制，非常经济、可靠。
嵌入式系统的硬件核心是嵌入式微处理器，有时为了提高系统的信息处理能力，常外接DSP和DSP协处理器（也可内部集成），以完成高性能信号处理。
随着计算机技术、微电子技术、应用技术的不断发展及纳米芯片加工工艺技术的发展，以微处理器为核心的集成多种功能的SoC系统芯片已成为嵌入式系统的核心。在嵌入式系统设计中，要尽可能地满足系统功能接口的SoC芯片。这些SoC集成了大量的外围USB、UART、以太网、AD/DA、IIS等功能模块。
可编程片上系统SOPC（System On Programmable Chip）结合了SoC和PLD、FPGA各自的技术优点，使得系统具有可编程的功能，是可编程逻辑器件在嵌入式应用中的完美体现，极大地提高了系统的在线升级、换代能力。
以SoC/SOPC为核心，用最少的外围部件和连接部件构成一个应用系统，满足系统的功能需求，这也是嵌入式系统发展的一个方向。
因此，现代嵌入式设计是以处理器/SoC/SOPC为核心来完成系统设计的，其外围接口包括存储设备、通信扩展设备、扩展设备接口和辅助的机电设备（电源、连接器、传感器等），构成硬件系统。