Searching…
VQ, 即 Vector Quantization，矢量量化，在多个场景下使用，如图像压缩，声音压缩，语音识别等。 什么是VQ? Vector quantizer (矢量量化器)将矢量空间 R k 中的 k 维矢量映射到矢量的有限集合 Y = {y i: i = 1, 2,, N} 。 每个向量 y i 称为 code vector (代码向量)或 codeword (码字)。
Jun 14, 2024 · 在本文中，我们使用我们最近提出的矢量量化噪声替换 (NSVQ) 技术通过机器学习优化优化这些 VQ 方法。 此外，NSVQ 允许在神经网络中端到端优化 VQ 方法。 我们还研究了这三种 VQ 方法的比特率、准确性和复杂性之间的权衡。
Nov 6, 2024 · 在 《VQ的旋转技巧：梯度直通估计的一般推广》 中，我们介绍了VQ（Vector Quantization）的Rotation Trick，它的思想是通过推广VQ的STE（Straight-Through Estimator）来为VQ设计更好的梯度，从而缓解VQ的编码表坍缩、编码表利用率低等问题。
矢量量化（Vector Quantization，VQ）是20世纪70年代后期发展的一种有损压缩技术，其理论基础为香农速率失真理论。 该技术通过将输入矢量替换为码书中最匹配码字的索引实现数据压缩，兼具高压缩比与解码简单的优点，又称分组量化。
Jan 14, 2025 · 第一个误差来自字典学习算法里的经典算法Vector Quantisation (VQ)，也就是VQ-VAE里的那个VQ，它用于优化嵌入空间。 第二个误差叫做专注误差，它用于约束编码器的输出，不让它跑到离嵌入空间里的向量太远的地方。
Jun 25, 2022 · 本文深入探讨了矢量量化 (VQ)的原理和训练细节，包括如何通过最小化距离找到最接近的码字以及如何使用指数移动平均值 (EMA)和MSE损失更新码本。 VQ的目标是将连续序列映射到离散序列，其训练过程涉及commitment loss和VQ loss，通过stop-gradient operator处理不可微问题。
Jun 13, 2024 · 矢量量化 (VQ) 是一种类似于 k 均值算法的数据压缩技术，可以对任何数据分布进行建模。 矢量量化已广泛应用于语音、图像和视频数据，例如图像生成、语音和音频编码、语音转换、音乐生成和文本到语音合成。
