1、exit函数和return函数的主要区别是：

    1）exit用于在程序运行的过程中随时结束程序，exit的参数是返回给OS的。main函数结束时也会隐式地调用exit函数。exit函数运行时首先会执行由atexit()函数登记的函数，然后会做一些自身的清理工作，同时刷新所有输出流、关闭所有打开的流并且关闭通过标准I/O函数tmpfile()创建的临时文件。exit是结束一个进程，它将删除进程使用的内存空间，同时把错误信息返回父进程；而return是返回函数值并退出函数。通常情况：exit(0)表示程序正常, exit(1)和exit(-1)表示程序异常退出，exit(2)表示表示系统找不到指定的文件。在整个程序中，只要调用exit就结束（当前进程或者在main时候为整个程序）。

自然也就结束当前进程了，如果不是，那就是退回上一层调用。在多个进程时。如果有时要检测上个进程是否正常退出。就要用到上个进程的返回值，依次类推。而exit是系统调用级别的，它表示了一个进程的结束。

    3）exit函数是退出应用程序，并将应用程序的一个状态返回给OS，这个状态标识了应用程序的一些运行信息。

2、进程环境与进程控制

$?就能得到该程序的返回值，也就是退出值，在main()里面，你可以用return n，也能够直接用exit(n)来做。unix默认的正确退出是返回0，错误返回非0。理论上exit可以返回小于256的任何整数。返回的不同数值主要是给调用者作不同处理的。

    单独的进程是返回给操作系统的。如果是多进程，是返回给父进程的。父进程里面调用waitpid()等函数得到子进程退出的状态，以便作不同处理。根据相应的返回值来让调用者作出相应的处理。总的说来，exit()就是当前进程把控制权返回给调用该程序的程序，括号里的是返回值，告诉调用程序该程序的运行状态。

*argv[])；通常main的返回值是int型，正确返回0。如果main的返回值为void，某些编译器会给出警告，此时main的返回值通常是0。

0)会调用终止处理程序和用户空间的标准I/O清理程序(如fclose)，_exit和_Exit不调用而直接由内核接管进行清理。因此，在main函数中exit(0)等价于return 0。

3）atexit终止处理程序：

     其中参数是一个函数指针，指向终止处理函数，该函数无参无返回值。atexit函数本身成功调用后返回0。

也会被调用多次（如这里的myexit1）。程序退出的时候利用atexit函数调用了这些处理函数。但是如果用_exit()退出程序，则它不关闭任何文件，不清除任何缓冲器、也不调用任何终止函数！

一种简化方向性变换的方法、 装置和系统 本申请要求了 2010年 4月 9 日提交的， 申请号为 .9， 发明名称为 "一种简化方向性变换的方法、 装置和系统" 的中国专利申请 的优先权， 其全部内容通过引用结合在本申请中。

本发明实施例涉及视频图像压缩编码领域， 尤其涉及一种图像块信号空 间变换技术， 具体为一种简化方向性变换的方法、 装置和系统。 背景技术

现有视频图像压缩编码技术中通常需要对图像块信号 （原始信号或预测 误差信号）进行空间变换， 将信号能量集中于少数几个变换系数中， 以提高 压缩编码效率。 二维可分离离散余弦变换（DCT )被广泛使用， 对图像块信号 进行变换。 若图像块内容较平緩， 或者存在水平或者竖直方向的纹理， DCT 可以显著提高压缩效率； 若图像块中存在其余各种方向性纹理， DCT 压缩效 率显著降低。 为解决这一问题， 已有各种方向性变换技术被提出， 例如可分 离 /不可分离 KL变换， 方向性小波变换等。

结合 H. 264视频编码标准中的方向性帧内预测模式， 一种基于预测模式 的方向性变换（MDDT )技术被提出。 通常， 预测误差信号中依然会存在沿预 测方向的方向性纹理信息。 基于这一特性， MDDT使用方向性 KL变换对预测 误差信号进行变换， 可显著提高压缩效率。 该技术针对 H. 264每一种方向性 帧内预测误差信号训练得到一对可分离 KL变换矩阵 与 Ri，分别对 ΝχΝ大小 的二维图像块信号 X中的列向量与行向量进行变换， 最后得到二维变换系数 块?。 与 Ri分别为 ΝχΝ矩阵。

以 H. 264中 4x4块大小帧内预测为例， 共存在 8种方向性预测模式。 此 时该技术需要存储 8 x 2=16个 4x4大小的变换矩阵。

在帧间预测编码中，对残差信号进行方向性变换可进一步提高压缩效率。 这可通过针对每一种方向规定一种变换实现。 此时， 若对 4x4块使用可分离 KL变换， 并且规定 8种方向性变换， 则与帧内预测编码中的情况相同， 需要 16个 4x4大小的变换矩阵。

在实现本发明的过程中， 发明人发现现有技术中至少存在如下问题： 压缩效率是衡量多媒体技术编解码效率的重要因素之一， 在降低压缩效率 或保持压缩效率不变的情况下， 现有的变换编码产生庞大的变换距阵数 量， 对多媒体编解码技术的存储要求相对较高， 同样， 多媒体设备中数量 繁多的变换矩阵的应用势必影响编解码的效率。 在保持压缩效率不变的情 况下， 可以大幅减少所需存储的变换矩阵数量。

本发明实施例提供一种方向性变换的方法和装置， 减少方向性变换所需 的变换矩阵数量， 同时保持甚至提高压缩效率。

本发明实施例提供了一种方向性变换的视频解码方法， 其特征在于， 包 括：

获得当前块的目标方向， 从基本方向和目标方向之间的几何变换和几何 逆变换映射关系表中获得对应的基本方向及一个或一组几何逆变换；

根据所述基本方向从基本方向与方向性变换矩阵的映射关系表中获得方 向性变换矩阵；

使用所述方向性变换矩阵， 对解码端接收到的变换系数矩阵做空间方向 性逆变换， 得到块信号；

使用所述一个或一组几何逆变换， 对所述块信号做几何逆变换， 得到重 建块信号。

另一方面， 本发明实施例还提供一种方向性变换的视频编码方法， 其特 征在于， 包括： 获得当前块的目标方向， 从基本方向和目标方向之间的几何变换和几何 逆变换映射关系表中获得对应的基本方向及一个或一组几何变换；

使用所述一个或一组几何变换对图像块信号进行几何变换， 得到几何变 换后的图像块信号；

根据所述基本方向， 从所述基本方向与方向性变换矩阵的映射关系表中 获得对应的方向性变换矩阵；

使用所述方向性变换矩阵对所述几何变换后的图像块信号做方向性变 换， 得到变换系数矩阵。

再一方面， 本发明实施例还提供一种视频解码的装置， 其特征在于， 包 括：

存储单元， 用于存储基本方向和目标方向之间的几何变换和几何逆变换 映射关系表； 该单元还用于存储基本方向与方向性变换矩阵的映射关系表。

方向性逆变换单元， 用于获得当前块的目标方向， 从所述基本方向和目 标方向之间的几何变换和几何逆变换映射关系表中获得对应的基本方向及一 个或一组几何逆变换， 根据所述基本方向从所述基本方向与方向性变换矩阵 的映射关系表中获得方向性变换矩阵， 使用所述方向性变换矩阵， 对解码端 接收到的变换系数矩阵做空间方向性逆变换， 得到块信号。

几何逆变换单元， 用于使用所述一个或一组几何逆变换， 对所述块信号 做几何逆变换， 得到重建块信号。

再一方面， 本发明实施例还提供一种视频编码的装置， 其特征在于， 包 括：

存储单元， 用于存储基本方向和目标方向之间的几何变换和几何逆变换 映射关系表； 该单元还用于存储基本方向与方向性变换矩阵的映射关系表。

几何变换单元， 用于获得当前块的目标方向， 从所述基本方向和目标方 向之间的几何变换和几何逆变换映射关系表中获得对应的基本方向及一个或 一组几何变换， 使用所述一个或一组几何变换对图像块信号进行几何变换， 得到几何变换后的图像块信号。

方向性变换单元， 用于根据所述基本方向， 从所述基本方向与方向性变 换矩阵的映射关系表中获得对应的方向性变换矩阵， 使用所述方向性变换矩 阵对所述几何变换后的图像块信号做方向性变换， 得到变换系数矩阵。

再一方面， 本发明实施例还提供一种方向性变换的帧间预测视频解码方 法， 其特征在于， 包括：

以当前帧间的方向性预测模式为目标方向， 从帧间预测时目标方向与方 向性变换矩阵的映射关系表中获得对应的方向性变换矩阵；

使用所述方向性变换矩阵对解码端接收到的变换系数矩阵做方向性逆变 换， 得到重建块信号。

再一方面， 本发明实施例还提供一种方向性变换的帧间预测视频编码方 法， 其特征在于， 包括：

以当前帧间的方向性预测模式为目标方向， 从帧间预测时目标方向与方 向性变换矩阵的映射关系表中获得对应的方向性变换矩阵；

使用所述方向性变换矩阵对图像块信号做方向性变换， 得到变换系数矩 阵。

再一方面， 本发明实施例还提供一种帧间预测视频解码的装置， 其特征 在于， 包括：

存储单元， 用于存储帧间预测时目标方向与方向性变换矩阵的映射关系 表。

方向性逆变换单元， 用于以当前帧间的方向性预测模式为目标方向， 从 所述帧间预测时目标方向与方向性变换矩阵的映射关系表中获得对应的方向 性变换矩阵， 使用所述方向性变换矩阵对解码端接收到的变换系数矩阵做方 向性逆变换， 得到重建块信号。

再一方面， 本发明实施例还提供一种帧间预测视频编码的装置， 其特征 在于， 包括： 存储单元， 用于存储帧间预测时目标方向与方向性变换矩阵的映射关系 表。

方向性变换单元， 用于以当前帧间的方向性预测模式为目标方向， 从所 述帧间预测时目标方向与方向性变换矩阵的映射关系表中获得对应的方向性 变换矩阵， 使用所述方向性变换矩阵对图像块信号做方向性变换， 得到变换 系数矩阵。

通过本发明实施例， 使用两个映射关系进行转换， 可以显著减少方向性 变换所需变换矩阵的数量， 同时保持甚至提高压缩编码效率。 附图说明 实施例或现有技术描述中所需要使用的附图作简单地介绍， 显而易见地， 下面描述中的附图仅仅是本发明的一些实施例， 对于本领域普通技术人员 来讲， 在不付出创造性劳动性的前提下， 还可以根据这些附图获得其他的 附图。

图 1是现有技术 H. 264标准中 4x4帧内预测模式方向的示意图

图 2是现有技术帧间预测模式方向的示意图；

图 3是本发明实施例提供的一种方向性变换设计方法的示意图； 图 4是本发明实施例提供的一种方向性变换视频编码方法示意图； 图 5是本发明实施例提供的一种方向性变换视频解码方法示意图； 图 6是本发明实施例提供的一种用于帧间预测的方向性变换设计方法的 示意图；

图 ?是本发明实施例提供的一种用于帧间预测的方向性变换视频编码示 意图；

图 8是本发明实施例提供的一种用于帧间预测的方向性变换视频解码示 意图； 图 9是本发明实施例提供的一种方向性变换视频编码装置示意图； 图 10是本发明实施例提供的一种方向性变换视频解码装置示意图。

图 11是本发明实施例提供的一种用于帧间预测的方向性变换视频编码 装置示意图。

图 12是本发明实施例提供的一种用于帧间预测的方向性变换视频解码 装置示意图。

图 1 3是本发明实施例一与实施例二仿真的结果与现有技术的对比图，其 中， （a)图表示原有 MDDT的性能； （b)图表示本发明的性能。

下面将结合本发明实施例中的附图， 对本发明实施例中的技术方案进 行清楚、 完整地描述， 显然， 所描述的实施例仅仅是本发明一部分实施例， 而不是全部的实施例。 基于本发明中的实施例， 本领域普通技术人员在没 有作出创造性劳动前提下所获得的所有其他实施例， 都属于本发明保护的 范围。

为方便描述提出的简化方向性变换装置， 首先解释下面几个概念。

几何变换： 指对图像块信号进行的翻转、 转置、 旋转等操作。 对应地， 几何逆变换指以几何变换输出信号作为其输入， 恢复得到几何变换原输入信 号所需的经翻转、 转置、 旋转等操作。 所采用几何（逆）变换， 或几何（逆） 变换组合则由基本方向集与目标方向集间的映射关系决定， 并且需要考虑信 号统计特性。

目标方向集： 指编解码过程中所有可能的方向的集合。

基本方向集： 为目标方向集的子集。 将具有基本方向集中的方向特性的 图像块信号经几何变换后， 即可得到具有目标方向集中的方向特性的图像块 信号。

方向性变换矩阵： 指 ΝχΝ二维矩阵， 可将信号投影到该矩阵内基向量所 规定的几何空间。 对应的， 方向性变换逆矩阵为方向性变换矩阵的逆矩阵， 可将方向性变换后信号重新投影到原几何空间。 对不可分离变换， 可以使用 图像块信号纹理方向标记方向性变换矩阵。 对于可分离变换需要首先给定基 准方向，若图像块信号纹理方向与基准方向夹角为 θ，则将沿基准方向的一维 变换矩阵标记为 M_e， 此时沿与基准方向垂直方向的一维变换矩阵则可对应地 标记为 M_9M。 本发明中所述的方向性变换， 缺省地是指 KL变换。

基本方向和目标方向之间的几何变换和几何逆变换映射关系表： 记录了 从目标方向集中的方向映射到基本方向集中的方向所使用的几何变换， 以及 从基本方向集中的方向映射到目标方向集中的方向所使用的几何逆变换。 需 要强调的是， 表只是其中一种具体的实现方式， 本发明不限定其它与表等同 的记录方式。

基本方向与方向性变换矩阵的映射关系表： 记录了基本方向与方向性变 换矩阵的映射关系。 对不可分离变换， 一个基本方向对应着一个不可分离二 维方向性变换矩阵； 对可分离变换， 一个基本方向对应着一个一维的列变换 矩阵和一个一维的行变换矩阵。 需要强调的是， 表只是其中一种具体的实现 方式， 本发明不限定其它与表等同的记录方式。

本发明实施例以块大小采用 4 x 4为例进行阐述，其他块大小可以参照理 论进行推导。

如图 3所示， 本发明实施例提供的简化方向性变换所使用到的映射关系 表的设计方法包括：

步骤 S 301 : 确定目标方向集， 所述的目标方向集包括编解码过程中所有 可能采用的方向集合， 在不同的场景中存在不同的应用， 如对 4 x 4编码块或 者 8 X 8编码块进行帧内预测，其目标方向集可以如图 1中 0 - 8的箭头所示； 当进行帧间预测， 其目标方向集可以如图 2中 0-7的箭头所示。

步骤 S 302 : 确定基本方向集， 从所述目标方向集选择其中至少一个方向 作为基本方向集。

步骤 S 303 : 确定所述目标方向集中的目标方向与所述基本方向集中的基 本方向间的几何变换映射关系， 所述几何变换包括水平翻转变换、 垂直翻转 变换或转置变换等变换方式， 所述映射关系可以采用映射关系表的形式进行 记录， 采用映射关系表则包括从所述目标方向集中的方向映射到所述基本方 向集中的方向所使用的几何变换， 以及从所述基本方向集中的方向映射到所 述目标方向集中的方向所使用的几何逆变换， 最终得到基本方向和目标方向 之间的几何变换和几何逆变换映射关系表。

步骤 S304: 根据所述基本方向集中的方向， 确定方向性变换矩阵的最小 集合。

步骤 S305 : 确定所述基本方向集中的方向与所述方向性变换矩阵的最小 集合中的方向性变换矩阵的映射关系， 得到基本方向与方向性变换矩阵的映 射关系表。 对不可分离变换， 一个基本方向对应着一个不可分离二维方向性 变换矩阵； 对可分离变换， 一个基本方向对应着一个一维的列变换矩阵和一 个一维的行变换矩阵。

步骤 S306: 使用图像块样本训练所述方向性变换矩阵的最小集合中的方 向性变换矩阵， 训练后得到的方向性变换矩阵的最小集合用于编码和解码。 另外， 本发明实施例还提供一种简化方向性变换的视频编码方法， 如图 4所示， 包括：

步骤 S401 : 获得当前块的目标方向， 从所述基本方向和目标方向之间的 几何变换和几何逆变换映射关系表中选择对应的基本方向及一个或一组几何 变换， 使用所述一个或一组几何变换对图像块信号！^进行几何变换， 得到几 何变换后的图像块信号 ;

步骤 S402 : 根据步骤 S401 中获得的所述基本方向， 从所述基本方向与 方向性变换矩阵的映射关系表中选择对应的方向性变换矩阵， 使用所述方向 性变换矩阵对 做方向性变换， 得到变换系数矩阵 Β_τ。

后续针对 Β_τ ?行相应的系数扫描、 熵编码等编码步骤。 上述动作的执行主体可以部署在编码端。

当前块的目标方向的获取可以采用多种不同的技术， 比如对帧内预测的 情况， 目标方向可以为当前帧的帧内预测方向， 也可以在编解码端采用相同 的方法计算获取； 对帧间预测， 可以在码流的附加信息中指明， 也可以在解 码端自适应地计算获取。 需要强调的是， 本发明不限定某种特定的技术来获 取当前块的目标方向。

进一步地， 本发明实施例还提供一种简化方向性变换的视频解码方法， 如图 5所示， 包括：

步骤 S501 : 获得当前块的目标方向， 从所述基本方向和目标方向之间的 几何变换和几何逆变换映射关系表中选择对应的基本方向及一个或一组几何 逆变换， 根据所述基本方向从所述基本方向与方向性变换矩阵的映射关系表 中选择方向性变换矩阵， 使用所述方向性变换矩阵， 对解码端接收到的变换 系数矩阵 ?_τ做空间方向性逆变换， 得到块信号 ；

步骤 S502 :使用步骤 S 501中获得的所述一个或一组几何逆变换，对 ^做 几何逆变换， 得到重建块信号 ?。

后续预测补偿、 环路滤波等解码步骤不做改变。

上述动作的执行主体可以部署在解码端。

当前块的目标方向的获取可以采用多种不同的技术， 比如对帧内预测的 情况， 目标方向可以为当前帧的帧内预测方向， 也可以在编解码端采用相同 的方法计算获取； 对帧间预测， 可以在码流的附加信息中指明， 也可以在解 码端自适应地计算获取。 需要强调的是， 本发明不限定某种特定的技术来获 取当前块的目标方向。

通过本发明实施例， 视频编码和视频解码时， 需要存储的是步骤 S 1 06中 所述训练后得到的方向性变换矩阵的最小集合， 其中的方向性变换矩阵的数 量显著小于现有技术中所需存储的方向性变换矩阵的数量， 同时保持甚至提 高压缩编码效率。 实施例一

本发明实施例以 H. 264中 4x4帧内方向性预测块以及所使用的可分离 KL 变换为例， 详细描述该简化方向性变换的设计与编解码流程， 其他块大小可 以参照理论进行推导。

本发明实施例提供的简化方向性变换设计方法如图 3所示， 下面是对其 中每个步骤的详细说明：

步骤 S 301 : 确定目标方向集。 本实施例中， 目标方向集为图 1所示的 8 个方向。 图 1 中数字为各预测方向所对应的帧内预测模式编号。 需要注意， 在帧内预测的情况下， 所述方向为单向不可反转， 具有确定的指向。 例如， 以模式 0方向作为基准方向， 并沿逆时针方向计算， 模式 4方向与基准方向 的夹角为 45度， 而不是 1 35度。 这是因为帧内方向性预测是通过相邻重建像 素外插得到， 具有明确的指向。

步骤 S 302 : 确定基本方向集。 考虑 Ν χ Ν 图像块信号的对称性（水平、 垂直镜像对称， 与二维信号对角线方向镜像对称） ， 可以选择水平或垂直方 向作为基准方向， 并选择基准方向起始的 0度到 45度（包含 0度角与 45度 角） 区间作为最小弧度（角度） 区间。 将目标方向集中所有方向经水平、 垂 直翻转与 （或）对角线转置操作变换到该弧度（角度） 区间内， 此时该区间 内的所有方向组成基本方向集。 需要注意， 按照所描述方法构造基本方向集， 对目标方向集中方向的数量与对称性没有限制。

本实施例中， 以模式 0方向作为基准方向， 选择基本方向集为 0， 5， 4 三个模式所对应的预测方向。 模式 0， 5， 4对应的方向为 0度， 30度与 45 度方向。

步骤 S 303 : 确定几何变换。 因为构造新基本方向集时考虑考虑 Ν χ Ν 图 像块信号的对称性（水平、垂直镜像对称，与二维信号对角线方向镜像对称 )， 因此仅需要水平翻转、 垂直翻转， 以及转置这三种几何变换， 就可以确定目 标方向集中方向与基本方向集中方向的映射关系。

需要注意， 有多个（组） 几何变换可以实现同一种映射。 例如， 从目标 方向 8到基本方向 5可以通过顺时针旋转 90度得到。

一种可行的映射方式在表 1中给出， 其中 T指转置， FH与 Fv分别指以水 平或垂直方向翻转。 表 1 中给出了从目标方向集中的方向映射到基本方向集 中的方向所使用的几何变换， 以及从基本方向集中的方向映射到目标方向集 中的方向所使用的几何逆变换。

表 1： 基本方向和目标方向之间的几何变换和几何逆变换关系表举例

步骤 S 304 : 确定方向性变换矩阵的最小集合。 本实施例中， 方向性变换 矩阵是一维方向性变换矩阵。 考虑基本方向集中的 3个方向， 需要 ^M。， 。， M₄₅， M_6% M_9Q共 个一维方向性变换矩阵对具有最小方向集中方向的图像 块信号在互相垂直的两个方向做可分离变换。

步骤 S 305 : 确定所述基本方向集中的方向与所述方向性变换矩阵的最小 集合中的方向性变换矩阵的映射关系。 本实施例中， 为每一个所述基本方向 选择两个方向性变换矩阵， 所述两个方向性变换矩阵分别为行变换矩阵和列 变换矩阵。 对图像块所实施的两个可分离一维方向性变换矩阵的选择则由图 像块信号的方向性决定。 一种可行的映射关系在表 2中给出。

表 2 : 基本方向与方向性变换矩阵的映射关系表举例 基本方 对应 列变换 行变换

向模式 方向 矩阵 矩阵

5 30度 M₃₀ M₆₀ 步骤 S 306 : 使用图像块样本训练所述方向性变换矩阵的最小集合中的方 向性变换矩阵， 训练后得到的方向性变换矩阵的最小集合用于编码和解码。 训练方向性变换矩阵的过程包括：

a. 采集图像块样本；

b. 以当前帧内预测模式所代表的方向作为目标方向， 从表 1中选择一个 (组） 几何变换， 使用所述一个（组） 几何变换对所述图像块样本进行几何 变换；

C 按照表 3构成一维方向性变换矩阵训练样本。 其中 B HZV)表示预测 方向为 X度的所述几何变换后的图像块样本的所有行向量信号或者列向量信 号。

d.对训练样本进行特征值分析或奇异值分解， 即可得到对应一维方向性 变换矩阵。

另外， 本发明实施例还提供的一种简化方向性变换的视频编码方法， 如图 4所示， 下面是对其中每个步骤的详细说明：

步骤 S401 : 以当前帧内的方向性预测模式为目标方向， 从所述基本方向 和目标方向之间的几何变换和几何逆变换映射关系表（本实施例中是表 1 ) 中选择对应的基本方向及一个或一组几何变换， 使用所述一个或一组几何变 换对图像块信号！^进行几何变换， 得到几何变换后的图像块信号 B_s ;

步骤 S402 : 根据步骤 S401 中获得的所述基本方向， 从所述基本方向与 方向性变换矩阵的映射关系表（本实施例中是表 2 ) 中选择两个方向性变换 矩阵， 所述两个方向性变换矩阵分别为行变换矩阵和列变换矩阵， 使用所述 两个方向性变换矩阵对 B_s做方向性变换， 得到变换系数矩阵 Β_τ。

后续针对 进行相应的系数扫描、 熵编码等编码步骤。

上述动作的执行主体可以部署在编码端。 进一步地， 本发明实施例还提供一种简化方向性变换的视频解码方法， 如图 5所示， 下面是对其中每个步骤的详细说明：

步骤 S501 : 以当前帧内的方向性预测模式为目标方向， 从所述基本方向 和目标方向之间的几何变换和几何逆变换映射关系表（本实施例中是表 1 ) 中选择对应的基本方向及一个或一组几何逆变换， 根据所述基本方向从所述 基本方向与方向性变换矩阵的映射关系表（本实施例中是表 2 ) 中选择两个 方向性变换矩阵，所述两个方向性变换矩阵分别为行变换矩阵和列变换矩阵， 使用所述两个方向性变换矩阵， 对解码端接收到的变换系数矩阵 ?_τ做空间方 向性逆变换， 得到块信号

步骤 S502 :使用步骤 S501中获得的所述一个或一组几何逆变换，对 做 几何逆变换， 得到重建块信号^。

后续预测补偿、 环路滤波等解码步骤不做改变。

上述动作的执行主体可以部署在解码端。 通过本发明实施例， 视频编码和视频解码时， 需要存储的一维方向性变 换矩阵的数量是 5个， 显著小于现有技术中所需存储的方向性变换矩阵的数 量。 实施例二

本发明实施例仍以 H. 264中 4x4帧内方向性预测块以及所使用的可分离 KL变换为例， 详细描述一种可能的新简化方向性变换的设计与编解码流程， 其他块大小可以参照理论进行推导。

本发明实施例提供的简化方向性变换设计方法如图 3所示， 下面是对其 中每个步骤的详细说明：

步骤 S301 : 确定目标方向集， 与实施例一步骤 S301相同。

步骤 S302 : 确定基本方向集。 考虑 Ν χ Ν 图像块信号的对称性（水平、 垂直镜像对称） ， 可以选择水平或垂直方向作为基准方向， 并选择基准方向 起始的 0度到 90度（包含 0度角与 90度角） 区间作为最小弧度（角度） 区 间。 将目标方向集中所有方向经水平、 垂直翻转与 （或）对角线转置操作变 换到该弧度（角度） 区间内， 此时该区间内的所有方向组成基本方向集。 选 取新基本方向集可以减少几何变换操作数量。

在本实施例中， 以模式 0方向作为基准方向， 选择基本方向集为 0， 5， 4， 6， 1五个模式所对应的预测方向， 即 0度， 30度， 45度， 60度与 90度 方向。

步骤 S303: 确定几何变换。 因为构造基本方向集时考虑考虑 Ν χ Ν 图像 块信号的对称性（水平、 垂直镜像对称） ， 因此仅需要水平翻转、 垂直翻转 这两种几何变换。 因为基本方向集中方向数量增多， 此时仅需对少数几种预 测方向模式图像块进行翻转操作即可实现从基本方向集中方向与目标方向集 中方向的映射， 从而达到减少几何变换操作数量的目的。

表 4: 基本方向和目标方向之间的几何变换和几何逆变换关系表举例 目标方向 基本方向 几何变换 几何逆变换

8 6 F_H F_H 步骤 S304: 确定方向性变换矩阵的最小集合。 与实施例一步骤 S304相 同。

步骤 S305 : 本实施例中， 为每一个所述基本方向选择两个方向性变换矩 阵， 所述两个方向性变换矩阵分别为行变换矩阵和列变换矩阵。 对图像块所 实施的两个可分离一维方向性变换矩阵的选择则由图像块信号的方向性决 定。 一种可行的映射关系在表 5中给出。

表 5 : 基本方向与方向性变换矩阵的映射关系表举例

步骤 S306: 使用图像块样本训练所述方向性变换矩阵的最小集合中的方 向性变换矩阵， 训练后得到的方向性变换矩阵的最小集合用于编码和解码。 训练方向性变换矩阵的过程与实施例一相同。 另外， 本发明实施例还提供的一种简化方向性变换的视频编码方法， 如图 4所示， 下面是对其中每个步骤的详细说明： 步骤 S401 : 以当前帧内的方向性预测模式为目标方向， 从所述基本方向 和目标方向之间的几何变换和几何逆变换映射关系表（本实施例中是表 4 ) 中选择对应的基本方向及一个或一组几何变换， 使用所述一个或一组几何变 换对图像块信号 B_s进行几何变换， 得到几何变换后的图像块信号 B_s；

步骤 S402 : 根据步骤 S401 中获得的所述基本方向， 从所述基本方向与 方向性变换矩阵的映射关系表（本实施例中是表 5 ) 中选择两个方向性变换 矩阵， 所述两个方向性变换矩阵分别为行变换矩阵和列变换矩阵， 使用所述 两个方向性变换矩阵对 B_s做方向性变换， 得到变换系数矩阵 Β_τ。

后续针对 Β_τ ?行相应的系数扫描、 熵编码等编码步骤。

上述动作的执行主体可以部署在编码端。 进一步地， 本发明实施例还提供一种简化方向性变换的视频解码方法， 如图 5所示， 下面是对其中每个步骤的详细说明：

步骤 S501 : 以当前帧内的方向性预测模式为目标方向， 从所述基本方向 和目标方向之间的几何变换和几何逆变换映射关系表（本实施例中是表 4 ) 中选择对应的基本方向及一个或一组几何逆变换， 根据所述基本方向从所述 基本方向与方向性变换矩阵的映射关系表（本实施例中是表 5 ) 中选择两个 方向性变换矩阵，所述两个方向性变换矩阵分别为行变换矩阵和列变换矩阵， 使用所述两个方向性变换矩阵， 对解码端接收到的变换系数矩阵 _τ做空间方 向性逆变换， 得到块信号

步骤 S502 :使用步骤 S 501中获得的所述一个或一组几何逆变换，对 ^做 几何逆变换， 得到重建块信号 ?。

后续预测补偿、 环路滤波等解码步骤不做改变。

上述动作的执行主体可以部署在解码端。

通过本发明实施例， 视频编码和视频解码时， 需要存储的一维方向性变 换矩阵的数量是 5个， 显著小于现有技术中所需存储的方向性变换矩阵的数 量， 而对本发明实施例一与实施例二进行仿真测试的结果显示其性能优于现 有技术。

按照实施例一与实施例二中的方法设计、训练 KL变换矩阵， 并将所述编 解码方法集成进入编解码软件 KTA2. 4rl。 对 4个 WQVGA分辨率序列进行全帧 内预测编码， 所使用量化参数为 22， 27, 32, and 37 , 仿真结果如图 13所 示。

本发明实施例以 H. 264中 4x4帧内方向性预测块以及不可分离 KL变换为 例， 详细描述该简化方向性变换的设计与编解码流程， 其他块大小可以参照 理论进行推导。

本发明实施例提供的简化方向性变换设计方法如图 3所示， 下面是对其 中每个步骤的详细说明：

步骤 S301 : 确定目标方向集， 与实施例一步骤 S301相同。

步骤 S302 : 确定基本方向集。 与实施例一步骤 S302相同。

步骤 S303: 确定几何变换。 与实施例一步骤 S303相同。

步骤 S304: 确定方向性变换矩阵的最小集合。 本实施例中， 方向性变换 矩阵是不可分离二维方向性变换矩阵。 考虑最小方向集中的 3个方向， 需要 M₀ , M₃。， M₄₅共 3个不可分离二维方向性变换矩阵对具有最小方向集中方向 的图像块信号进行空间变换。

步骤 S305 : 本实施例中， 为每一个所述基本方向选择一个方向性变换矩 阵， 这就是简单的一对一映射关系， 如表 6所示。

表 6： 不可分离变换下基本方向与方向性变换矩阵的映射关系表举例 基本方 对应 变换

5 30度 M₃₀ 步骤 S306: 使用图像块样本训练所述方向性变换矩阵的最小集合中的方 向性变换矩阵， 训练后得到的方向性变换矩阵的最小集合用于编码和解码。 训练方向性变换矩阵的过程包括：

a. 采集图像块样本；

b. 按照预测模式所代表的方向， 参考表 1对图像块样本进行几何变换； c 按照规定次序例如行扫描次序将每一个二维图像块信号样本组织为 一维向量；

d.对所述信号样本进行特征值分析或奇异值分解， 即可得到对应不可分 离二维方向性变换矩阵。 另外， 本发明实施例还提供的一种简化方向性变换的视频编码方法， 如图 4所示， 下面是对其中每个步骤的详细说明：

步骤 S401 : 以当前帧内的方向性预测模式为目标方向， 从所述基本方向 和目标方向之间的几何变换和几何逆变换映射关系表（本实施例中是表 1 ) 中选择对应的基本方向及一个或一组几何变换， 使用所述一个或一组几何变 换对图像块信号 B_s进行几何变换， 得到几何变换后的图像块信号 B_s； 步骤 S402 : 根据步骤 S401 中获得的所述基本方向， 从所述基本方向与 方向性变换矩阵的映射关系表（本实施例中是表 6 ) 中选择一个二维方向性 变换矩阵， 使用所述二维方向性变换矩阵对 做方向性变换， 得到变换系数 矩阵 Β_τ。

后续针对 Β_τ进行相应的熵编码等编码步骤。 上述动作的执行主体可以部署在编码端。 进一步地， 本发明实施例还提供一种简化方向性变换的视频解码方法， 如图 5所示， 下面是对其中每个步骤的详细说明：

步骤 S501 : 以当前帧内的方向性预测模式为目标方向， 从所述基本方向 和目标方向之间的几何变换和几何逆变换映射关系表（本实施例中是表 1 ) 中选择对应的基本方向及一个或一组几何逆变换， 根据所述基本方向从所述 基本方向与方向性变换矩阵的映射关系表（本实施例中是表 6 ) 中选择一个 二维方向性变换矩阵， 使用所述二维方向性变换矩阵， 对解码端接收到的变 换系数矩阵 ^做空间方向性逆变换， 得到块信号

步骤 S502 :使用步骤 S 501中获得的所述一个或一组几何逆变换，对 做 几何逆变换， 得到重建块信号^。

后续预测补偿、 环路滤波等解码步骤不做改变。

上述动作的执行主体可以部署在解码端。

通过本发明实施例， 视频编码和视频解码时， 需要存储的二维方向性变 换矩阵的数量是 3个， 显著小于现有技术中所需存储的方向性变换矩阵的数 量。 同时， 对本发明实施例进行了类似的仿真测试， 仿真测试结果显示本发 明实施例的性能与现有技术相当。 实施例四

本发明实施例以 H. 264中帧间预测为例，考虑使用可分离方向性 KL变换 的情况， 详细描述该简化方向性变换的设计与编解码流程。

本发明实施例提供的简化方向性变换设计方法如图 3所示， 下面是对其 中每个步骤的详细说明：

步骤 S 301 : 确定目标方向集。 目标方向集中选择的方向数量越多， 则对 应的方向性变换可以处理更多、 更精细角度变化的纹理区域。 例如， 可以选 择如图 2所示方向作为目标方向集。 图 2中数字为各预测方向所对应的模式 编号。 模式 0 ~ 7依次对应方向为 0度、 30度、 45度、 60度、 90度、 120度、 135度、 与 150度。 需要注意， 在帧间预测的情况下， 所述方向为双向可逆， 不具有确定的指向。

步骤 S302: 确定基本方向集。 与实施例一中步骤 S302相似， 选择基本 方向集为 0， 1， 2三个模式所对应方向， 即 0度， 30度与 45度方向。

步骤 S303: 确定几何变换。 与实施例一中步骤 S303相似， 获得如表 ? 所示的映射关系。

表 7: 帧间预测时基本方向和目标方向之间的几何变换和几何逆变换关系表 举例

步骤 S304: 确定方向性变换矩阵的最小集合。 与实施例一中步骤 S304 相同。

步骤 S305: 确定所述基本方向集中的方向与所述方向性变换矩阵的最小 集合中的方向性变换矩阵的映射关系。 与实施例一中步骤 S305相似， 获得如 表 8所示的映射关系。

表 8: 帧间预测时基本方向与方向性变换矩阵的映射关系表举例 基本方 对应 列变换 行变换

2 45度 _{45 45} 步骤 S306: 使用图像块样本训练所述方向性变换矩阵的最小集合中的方 向性变换矩阵， 训练后得到的方向性变换矩阵的最小集合用于编码和解码。 训练方向性变换矩阵的过程与实施例一的步骤 S306相同。 另外， 本发明实施例还提供的一种简化方向性变换的视频编码方法， 如图 4所示， 下面是对其中每个步骤的详细说明：

步骤 S401 : 以当前帧间的方向性预测模式为目标方向， 从所述基本方向 和目标方向之间的几何变换和几何逆变换映射关系表（本实施例中是表 7 ) 中选择对应的基本方向及一个或一组几何变换， 使用所述一个或一组几何变 换对图像块信号 B_s进行几何变换， 得到几何变换后的图像块信号 B_s；

步骤 S402 : 根据步骤 S401 中获得的所述基本方向， 从所述基本方向与 方向性变换矩阵的映射关系表（本实施例中是表 8 ) 中选择两个方向性变换 矩阵， 所述两个方向性变换矩阵分别为行变换矩阵和列变换矩阵， 使用所述 两个方向性变换矩阵对 做方向性变换， 得到变换系数矩阵 Β_τ。

后续针对 Β_τ ?行相应的系数扫描、 熵编码等编码步骤。

上述动作的执行主体可以部署在编码端。 进一步地， 本发明实施例还提供一种简化方向性变换的视频解码方法， 如图 5所示， 下面是对其中每个步骤的详细说明：

步骤 S501 : 以当前帧间的方向性预测模式为目标方向， 从所述基本方向 和目标方向之间的几何变换和几何逆变换映射关系表（本实施例中是表 7 ) 中选择对应的基本方向及一个或一组几何逆变换， 根据所述基本方向从所述 基本方向与方向性变换矩阵的映射关系表（本实施例中是表 8 ) 中选择两个 方向性变换矩阵，所述两个方向性变换矩阵分别为行变换矩阵和列变换矩阵， 使用所述两个方向性变换矩阵， 对解码端接收到的变换系数矩阵 0_T做空间方 向性逆变换， 得到块信号

步骤 S502 :使用步骤 S 501中获得的所述一个或一组几何逆变换，对 做 几何逆变换， 得到重建块信号^。

后续预测补偿、 环路滤波等解码步骤不做改变。

上述动作的执行主体可以部署在解码端。

通过本发明实施例， 视频编码和视频解码时， 需要存储的一维方向性变 换矩阵的数量是 5个， 显著小于现有技术中所需存储的方向性变换矩阵的数 量。 同时， 对本发明实施例进行了类似的仿真测试， 仿真测试结果显示本发 明实施例的性能与现有技术相当。 实施例五

本发明实施例以 Η. 264中帧间预测为例，考虑使用可分离方向性 KL变换 的情况， 详细描述该简化方向性变换的设计与编解码流程。

需要注意， 因为在帧间预测的情况下， 方向为双向可逆， 不具有确定的 指向。 因此， 在实施例四的基础上可以进行进一步的简化从而构成了本实施 例。

本发明实施例提供的简化方向性变换设计方法如图 6所示， 包括： 步骤 S601 : 确定目标方向集。 与实施例四的步骤 S 301相同。

步骤 S602 : 确定方向性变换矩阵的最小集合。 与实施例四的步骤 S 304 相同。

步骤 S603 : 确定所述目标方向集中的方向与所述方向性变换矩阵的最小 集合中的方向性变换矩阵的映射关系， 构成帧间预测时目标方向与方向性变 换矩阵的映射关系表， 如表 9所示。 如前所述， 由于帧间预测时目标方向为 双向可逆， 因此， 可以按照表 9直接 居目标方向集中的方向选择两个一维 方向性变换矩阵对， 所述两个方向性变换矩阵分别为行变换矩阵和列变换矩 阵， 而不需要经过几何变换步骤。 需要强调的是， 表 9 中是针对可分离变换 的映射关系示例， 对不可分离变换， 目标方向对应的是一个二维不可分离变 换矩阵。 并且， 表只是其中一种具体的实现方式， 本发明不限定其它与表等 同的 i己录方式。

表 9 : 帧间预测时目标方向与方向性变换矩阵的映射关系表举例

步骤 S604: 使用图像块样本训练所述方向性变换矩阵的最小集合中的方 向性变换矩阵， 训练后得到的方向性变换矩阵的最小集合用于编码和解码。 训练方向性变换矩阵的过程与实施例四的步骤 S 106相同。 另外，本发明实施例还提供的一种简化方向性变换的帧间预测视频编码方 法， 如图 ?所示， 包括：

步骤 S701 : 以当前帧间的方向性预测模式为目标方向， 从所述帧间预测 时目标方向与方向性变换矩阵的映射关系表（本实施例中是表 9 ) 中选择对 应的方向性变换矩阵， 使用所述方向性变换矩阵对图像块信号 B_s做方向性变 换， 得到变换系数矩阵 Β_τ。

后续针对 Β_τ进行相应的系数扫描、 熵编码等编码步骤。

上述动作的执行主体可以部署在编码端。 进一步地， 本发明实施例还提供一种简化方向性变换的帧间预测视频解 码方法， 如图 8所示， 包括：

步骤 S801 : 以当前帧间的方向性预测模式为目标方向， 从所述帧间预测 时目标方向与方向性变换矩阵的映射关系表（本实施例中是表 9 ) 中选择对 应的方向性变换矩阵， 使用所述方向性变换矩阵对解码端接收到的变换系数 矩阵 ?_τ做方向性逆变换， 得到重建块信号?。 后续预测补偿、 环路滤波等解码步骤不做改变。

上述动作的执行主体可以部署在解码端。

通过本发明实施例， 视频编码和视频解码时， 需要存储的一维方向性变 换矩阵的数量是 5个， 显著小于现有技术中所需存储的方向性变换矩阵的数 量。 同时， 对本发明实施例进行了类似的仿真测试， 仿真测试结果显示本发 明实施例的性能与现有技术相当。

本实施例提供一种视频编码装置， 如图 9所示， 该视频编码装置 900包 括：

存储单元 901 : 该单元存储基本方向和目标方向之间的几何变换和几何 逆变换映射关系表；该单元还存储基本方向与方向性变换矩阵的映射关系表； 几何变换单元 902 : 获得当前块的目标方向， 从所述基本方向和目标方 向之间的几何变换和几何逆变换映射关系表中选择对应的基本方向及一个或 一组几何变换，使用所述一个或一组几何变换对图像块信号！^进行几何变换， 得到几何变换后的图像块信号 B_s； 方向性变换单元 903 : 根据几何变换单元 902中获得的所述基本方向， 从所述基本方向与方向性变换矩阵的映射关系表中选择对应的方向性变换矩 阵， 使用所述方向性变换矩阵对 1?做方向性变换， 得到变换系数矩阵 Β_τ。 该视频编码装置可以集成在电路或芯片中， 包括 CPU、 或 DSP (数字 信号处理， Digital Signal

通过本发明实施例， 可以显著减少所需存储的方向性变换矩阵的数 量。 实施例七

本实施例提供一种视频解码装置，如图 10所示，该视频解码装置 1000 包括：

存储单元 1001 : 该单元存储基本方向和目标方向之间的几何变换和几何 逆变换映射关系表；该单元还存储基本方向与方向性变换矩阵的映射关系表； 方向性逆变换单元 1002 : 获得当前块的目标方向， 从所述基本方向和目 标方向之间的几何变换和几何逆变换映射关系表中选择对应的基本方向及一 个或一组几何逆变换， 根据所述基本方向从所述基本方向与方向性变换矩阵 的映射关系表中选择方向性变换矩阵， 使用所述方向性变换矩阵， 对解码端 接收到的变换系数矩阵 ^做空间方向性逆变换， 得到块信号

几何逆变换单元 1003: 使用方向性逆变换单元 1002 中获得的所述一个 或一组几何逆变换， 对 做几何逆变换， 得到重建块信号 。

通过本发明实施例， 可以显著减少所需存储的方向性变换矩阵的数量。 实施例八

本实施例提供一种帧间预测视频编码装置， 如图 11所示， 该视频编码装 置 1100包括：

存储单元 1101 : 该单元存储帧间预测时目标方向与方向性变换矩阵的映 射关系表； 方向性变换单元 1102 : 以当前帧间的方向性预测模式为目标方向， 从所 述帧间预测时目标方向与方向性变换矩阵的映射关系表中选择对应的方向性 变换矩阵， 使用所述方向性变换矩阵对图像块信号 1^做方向性变换， 得到变 换系数矩阵 Β_τ。 该视频编码装置可以集成在电路或芯片中，

通过本发明实施例， 可以显著减少所需存储的方向性变换矩阵的数 量。 实施例九

本实施例提供一种帧间预测视频解码装置，如图 12所示，该视频解码 装置 1200包括：

存储单元 1201 : 存储帧间预测时目标方向与方向性变换矩阵的映射关系 表；

方向性逆变换单元 1002 : 以当前帧间的方向性预测模式为目标方向， 从 所述帧间预测时目标方向与方向性变换矩阵的映射关系表中选择对应的方向 性变换矩阵， 使用所述方向性变换矩阵对解码端接收到的变换系数矩阵 做 方向性逆变换， 得到重建块信号^。

通过本发明实施例， 可以显著减少所需存储的方向性变换矩阵的数量。 本领域普通技术人员可以理解实现上述实施例方法中的全部或部分 流程， 是可以通过计算机程序来指令相关的硬件来完成， 所述的程序可存 储于一计算机可读取存储介质中， 该程序在执行时， 可包括如上述各方法 的实施例的流程。 其中， 所述的存储介质可为磁碟、 光盘、 只读存储记忆 体 ( Read-Only Memory ,

领域的普通技术人员应当理解： 其依然可以对本发明实施例的技术方案进行 修改或者等同替换， 而这些修改或者等同替换亦不能使修改后的技术方案脱 离本发明实施例技术方案的精神和范围。