嵌入式系统中的内存压缩技术 - 嵌入式系统

摘要：介绍内存压缩技术和一个基于硬件的内存压缩系统模型，探讨内存压缩技术在嵌入式系统中的应用；重点介绍内存压缩系统的硬件要求及操作系统对内存压缩机制的支持；简单介绍内存压缩中常用的算法Lempel-Ziv，并就内存压缩技术在嵌入式系统中的应用问题作一些探讨。关键词：嵌入式系统内存压缩压缩内存控制器 Lempel-Ziv算法 1 内存压缩技术介绍为节省存储空间或传输带宽，人们已经在计算机系统中广泛地使用了数据压缩技术。在磁介质存储数据或网络传输数据时，人们使用基于硬件或软件的各种压缩技术。当压缩技术在各个领域都很流行时，内存压缩技术却由于其复杂性而一直未得到广泛使用。近年来，由于在并行压缩一解压算法以及在硅密度及速度方面取得的进展，使得内存压缩技术变得可行。内存压缩技术的主要思想是将数据按照一定的算法压缩后存入压缩内存中，系统从压缩内存中找到压缩过的数据，将其解压后即可以供系统使用。这样既可以增加实际可用的内存空间，又可以减少页面置换所带来的开销，从而以较小的成本提高系统的整体性能。内存压缩机制是在系统的存储层次中逻辑地加入一层——压缩内存层。系统在该层中以压缩的格式保存物理页面，当页面再次被系统引用时，解压该压缩页后，即可使用。我们将管理这一压缩内存层的相关硬件及软件的集合统称为内存压缩系统。内存压缩系统对于CPU、I/O设备、设备驱动以及应用软件来说是透明的，但是操作系统必须具有管理内存大小变化以及压缩比率变化的功能。对于大多数的操作系统而言，要实现内存压缩，大部分体系结构都不需要改动。在标准的操作系统中，内存都是通过固定数目的物理页框（page frame）来描述的，由操作系统的VMM来管理。要支持内存压缩，OS要管理的实际内存大小和页框数目是基于内存的压缩比率来确定的。这里的实现内存是指操作系统可的内存大小，它与物理内存的关系如下：假设PM是物理内存，RM（t）是系统在t时刻的实际内存，而CR（t）是压缩比率，在给定时刻t可支持的最大实际内存为RM（t）=CR1（t）%26;#215;PM。然而，由于应用程序的数据压缩率是不依赖于OS而动态变化的，未压缩的数据可能会耗尽物理内存，因此当物理内存接近耗尽时，操作系统必须采取行动来解决这个问题。

2 内存压缩系统的硬件模型目前由于内存压缩的思想越来越引起人们的注意市场上也出现了一些基于软件的内存压缩器。这些内存压缩器主要是通过软件对数据进行压缩，但由于访问压缩数据带来的延迟，它在系统性能方面改进并不明显，有些甚至降低了系统性能。本节介绍一种基于硬件的内存压缩系统模型。图1是一个典型的内存压缩系统的硬件模型，包括了压缩内存、L3高速缓冲、压缩内存控制器等硬件部分。其中压缩内存（133MHz SDRAM）包含了压缩数据。L3高速缓冲是一个共享的、32MB、4路组相联、可回写的高速缓冲，每行大小为1KB，由两倍数据率（DDR）SDRAM制定。L3高速缓冲包含了未压缩的缓冲行，由于大部分的访问都可以在L3高速缓冲中命中，因此它隐藏了访问压缩主存引起的延迟。L3高速缓冲对于存储分级体系中的上层而言就是主存，它的操作对于其它硬件，包括处理器和I/O来说都是透明的。压缩内存控制器是整个内存压缩系统的控制中心，它负责数据的压缩/解压，监控物理内存的使用情况以及实际地址到物理地址的寻址过程。数据压缩过程是这样的：压缩内存控制将1KB的高速缓冲行压缩后写入压缩内存中，然后将它们从压缩内存中读出后解压。其压缩算法就是Lempel-Ziv算法，我们会在下一部分介绍这个算法。压缩机制将压缩的数据块以不同的长度格式存放到内存中。压缩内存的存储单元是一个256字节的区域。按照压缩比率不同，一个1KB的内存块（正好是L3每行的大小）可以占据0～4个压缩区域。压缩内存控制器必须根据长度格式的不同将系统总线上的实际地址翻译成物理内存的中的物理地址。实际地址是出现在处理器外部总线上常规地址。篁址用来录十压缩内存的256字节区域。实际地址空间存在于L1/L2/L3高速缓冲中，用于立即访问。而其余的内存内容部分以压缩形式存在于物理内存中。内存控制器通过查询压缩翻译表（CTT）执行从实际地址到物理地址的翻译，这个表被保留在物理内存的某个位置。图2是CTT表的格式及内存控制器的寻址模式。每个1KB内存块的实际地址映射到CTT的一项，而CTT每项共16字节，包括四个物理区域地址，每个地址指向物理内存听一个256字节区域。对于少于120位的块，如一个全为零的块，则使用一种特殊的CTT格式，称为通用行格式。在这种格式中，压缩数据全部存放在CTT项中，代替了四个地址指针。因此，一个1KB的通用块仅占用物理内存中的16字节，其压缩比率达到64：1。压缩内存控制器中有一系列的寄存器用于监控物理内存使用。Sectors Used Register(SUR)向操作系统报告压缩内存的使用情况。The Sectors Used Threshold Registers,SUTHR和SUTLR，用于设置内存耗尽情况的中断入口点。SUTLR寄存器是PCI中断电路INTA的入口，而SUTHR寄存器是NMI中断的入口。当SUR超过了SUTLR的值，内存控制器产生一个中断，则操作系统采取措施来阻止内存消耗。在实际地址到物理地址的转换中，一个有用的方法是快速页操作。它允许控制器仅修改CTT项的四个指针，从而将4KB的页面内容换出或清空。快速页操作通过将与4KB页面相关的CTT项全部修改通用行格式（即全为零），从而将这4KB页面的内容全部清空。同样，一对页面可以通过交换它们相关的CTT项的区域指针来交换页面内容。由于没有大量的数据移动发生，快速页面操作速度相当快。压缩内存控制器的压缩/解压功能是基于LempelZiv算法来进行的，因此下一节将简单介绍一下该算法的思想。 3 内存压缩算法Lempel-Ziv 绝大多数的压缩算法，包括用得特别流行的Lempel-Ziv压缩算法家庭，都是基于对原子记录（Token）字符串的完全重复检测。这个算法虽然不是最好的算法，但是，Lempel-Ziv算法强调的是算法的简单与取得高压缩率的速率，因此它还是在内存压缩中得到了广泛的应用。 Lemple-Ziv算法（简称LZ）是编码时将一个位串分成词组，然后将数据流描述成一系列的对。每个对组成一个新的词组，它包含一个数字（前一个词组的标识）和一个位（被附加到前一个词组上）。这种编码方式很庞大，可是一旦应用到适合的字符串，它就是相当有效率的编码方式。下面举例说明这种算法是如何编码的。 ++表示连接（010++1=0101），U=0010001101是未被压缩的字符串。C是压缩后的字符串。P（x）表示词组数x。先看一下U=0010001101发现，它可以被写为U=0++010001101，因此得到P（1）=P(0)++0。现在继续将其写为U=0++02++0001101，可得到P(2)=P（1）++1。现在我们已经将P（2）描述为上一词组和一个新的位的组合。下一步，U=0++01++00++01101，并得到P（3）=P（1）++0。现在我们注意到，有U=0++01+00+011++01，而P（4）=011=P(2)++1，最后得到P（5）=P(1)++1。运算的步骤如表1所列。一旦创建了表1，就有了整个编码的图表。要创建Lempel-Ziv数据流，则依照公式创建对。如果公式是P(x)=P(A)++B，则每个对为（A++B）。因此P（1）=P(0)++0变为（00++0），P（2）=P(1)++0变为（01++0），依此类推，将所有这些对连接起来，就得到了最后的字符串，结果如表2所列。这样，C就变成000011010101011，看来比U要长得多。但这里由于U的长度短，因此未能看出优势，而且包含P（0）的公式都没有压缩，所以也引起了长度增加。 Lempel-Ziv字符串的解码是很简单的，就是抓住其中的对，对照表1进行重构。表1 编码过程步骤值公式 U 0 - P(0) 0010001101 1 0 P(1)=P(0)++0 0++010001101 2 01 P(2)=P(1)++1 0++01++00++01101 3 00 P(3)=P(1)++0 0++01++00++01101 4 011 P(4)=P(2)++1 0++01++00++011++01 5 01 P(5)=P(1)++1 0++01++00++011++01 表2 如何创建编码字符串公式 P(1)=P(0)++0 P(2)=P(1)++1 P(3)=P(1)++0 P(4)=P(2)++1 P(5)=P(1)++1 对 00++0=000 01++1=011 01++0=010 10=++1=101 01++1=011 C 000++011++010++101++011=000011010101011 4 操作系统对内存压缩的支持在压缩内存系统中，内存大小指的是实际内存大小，它比物理内存大。在引导时，BIOS向操作系统报告的内存大小就比实际安装的物理内存要大。例如，硬件原型安装的是512MB的SDRAM，但BIOS向操作系统报告的内存大小为1GB。当应用程序数据以2：1或更高的比率压缩时，实际内存的工作方式与一般操作系统的内存工作方式是相同的。但当应用程序以未压缩数据来填充内存时（如一个zip文件不可能达到2：1的压缩比率），由于一般的OS只看到实际地址空间，因此不能意识到物理内存已经耗尽。例如，一个操作系统的实际内存为1024MB，而牧师内存为512MB。这时实际内存已经分配了600MB，系统显示还有424MB的空闲内存。但是由于已分配内存的压缩率很低，此时物理内存的耗用已经接近512MB。如果再近一步地分配内存，那么系统就会因为物理内存的耗尽而崩溃，尽管它仍然显示还有424MB的空闲内存。这种情况下，必须由操作系统提供对压缩内存进行管理的支持。由于内存压缩是一个比较新的概念，一般的情况作系统都没有这样的机制来区分实际地址和物理地址，也不能处理“物理内存耗尽”的情况。不过，只要对操作系统内核做一些小的改动或者在操作系统之上增加一个设备驱动程序，即可达到目的。一般来说，要从以下几方面对压缩内存进行管理。（1）监控物理内存使用情况通过轮询或中断法，查看物理内存的使用情况，并在物理内存耗尽前给出警告。压缩内存管理例程是通过压缩内存控制器中的一些寄存器来实现对物理内存的监控。SUR报告物理内存的使用情况，SUTHR和SUTLR用于设置中断临界值。压缩内存管理算法是基于物理内存使用的四种状态，分别为steady、acquire、danger和interrupt，其临界值的关系是mc_th_acquire[!--empirenews.page--] 5 内存压缩技术在嵌入式系统中的应用嵌入式系统是一种特殊的计算机系统，它是一个更大的系统或设备的一部分。通常，一个嵌入式系统是驻留在单处理机底板上的，其应用程序存储在ROM中。事实上，所有具有数字接口的设备——监视器、微波炉、VCRs、汽车等，都使用了嵌入式系统。一些嵌入式系统包含了操作系统，称为嵌入式操作系统。为了满足嵌入式应用的特殊要求，嵌入式微处理器虽然在功能上和标准微处理器基本是一样的，但和工业控制计算机相比，嵌入式微处理器具有体积小、重量轻、成本低、可靠性中，内存仍然是珍贵的资源，因此研究内存压缩技术在嵌入式系统中的应用具有一定的价值。内存压缩的思想在一些嵌入式操作系统中，实际上已经得到了体现。例如在VxWorks中，当操作系统下载到目标机上时，其中一种方式是将引导程序和VxWorks映像都存放在ROM中。为了将其解压后再从ROM拷贝到RAM。这种基于软件的压缩方式，可以节省ROM空间，但其引导过程相对较慢。以上的内存压缩技术在ROM中得到了应用，但对于RAM来讲，基于软件内存压缩技术，由于其访问压缩数据可能造成的延迟和不确定性，会对嵌入式系统的实时性造成和。因此它与虚拟内存技术一样，在嵌入式系统中未得到广泛应用。本文所介绍的内存压缩系统是基于硬件的。在相同基准下，测试结果显示出，该系统的运行速度比标准系统的运行速度快1.3倍。如果要实现相同大小的内存，采用内存压缩系统的硬件费用比购买RAM的费用要低，而且内存越大，其节省的费用越多，可以达到一半的价钱。因此笔者认为在内存资源极其宝贵的嵌入式系统中，实现基于硬件的内存压缩系统具有较大的价值。结语本文介绍的内存压缩系统是基于专门的硬件支持，即L3高速缓冲和内存控制器。在目前大多数Pentium以上架构的硬件平台上，只需要对操作系统内核做一些小的屐，或者增加一个设备驱动及服务程序，即可完成此项功能。由于嵌入式系统对实时性的要求，基于硬件的内存压缩技术可以在增大可用内存的同时不影响系统的实时性，其硬件费用相对RAM的价格更低，具有一定的实用价值。 [!--empirenews.page--]