为了解在计算机系统中，程序是如何运行的，首先需要了解计算机系统的硬件组织。
1、总线
总线是贯穿整个系统一组电子管道，它携带信息字节并负责在各个部件间传递。通常总线被设计成传送特定长的字节块，也就是字（word）。字中的字节数是一个基本的系统参数，各个系统中都不尽相同。如32位操作系统一个字长是4个字节，64位操作系统一个字长是8个字节。
位（bit），音译为“比特”，表示二进制位。位是计算机内部数据储存的最小单位。
字节（byte） ，计算机中数据处理的基本单位，通常情况下一字节等于8位。
字 （word），计算机进行数据处理时，一次存取、加工和传送的数据长度称为字。一个字通常由一个或多个（一般是字节的整数位）字节构成。
I/O（输入/输出）设备是系统与外部世界的联系通道，通常包括：
用户输入的键盘和鼠标；
用户输出的显示器；
长期存储数据和程序的磁盘驱动器（磁盘）；
网络设备等。
每个I/O设备都通过一个控制器或适配器与I/O总线相连。控制器和适配器的区别主要在于它们的封装方式。控制器是I/O设备本身或者主板上的芯片组；适配器则是一块插在主板槽上的卡。它们的功能都是在I/O总线和I/O设备之间传递信息。
3、主存
主存是一个临时存储设备，在处理器执行程序时，用来存放程序和程序处理的数据。从物理上来说，主存是由一组动态随机存取存储器（DRAM）芯片组成；从逻辑上来说，存储器是一个线性的字节数组，每个字节都有其唯一的地址（数组索引），这些地址是从零开始的。
一般来说，组成程序的每条机器指令都由不同数量的字节构成。与C程序变量相对应的数据项的大小是根据类型变化的，比如在x86-64机器上 ，short类型的数据需要2个字节，int和float类型需要4个字节，而long和double类型需要8个字节。
4、处理器
处理器CPU是解释或执行存储在主存中指令的引擎。处理器的核心是一个大小为一个字的存储设备（或寄存器），成为程序计数器（PC）。在任何时刻，PC都指向主存中的某条机器语言指令（即含有该条指令的地址）。
从系统通电开始，直到系统断电，处理器一直在不断地执行程序计数器指向的指令，再更新程序计数器，使其指向下一条指令。处理器看上去是按照一个非常简单的指令执行模型来操作的，这个模型是由指令集架构决定的。在这个模型中，指令按照严格的顺序执行，而执行一条指令包含执行一系列的步骤。处理器从程序计数器指向的内存处读取指令，解释指令中的位，执行该指令指示的简单操作，然后更新PC，使其指向下一条指令，而这条指令并不一定和内存中刚刚执行的指令相邻。
这样的简单操作并不多，它们围绕着主存、寄存器文件和算数/逻辑单元进行。寄存器文件是一个小的存储设备，由一些单个字长的寄存器组成，每个寄存器都有唯一的名字。算数/逻辑单元计算新的数据和地址值。CPU在指令的要求下可能会执行下面这些操作。
加载：从主存复制一个字节或一个字到寄存器，以覆盖寄存器原来的内容。
存储：从寄存器复制一个字节或一个字到到主存的某个位置，以覆盖这个位置上原来的内容。
操作：把两个寄存器的内容复制到ALU，ALU对这两个字做算术运算，并将结果存放到一个寄存器中，以覆盖该寄存器原来的内容。
跳转：从指令本身中抽取一个字，并将这个字复制到程序计数器中，以覆盖PC中原来的值。
处理器看上去是它的指令集架构的简单实现，但实际上现代处理器使用了非常复杂的机制来加速程序的执行。