我们有多关心机器学习推理过程的效率。作为这种努力的一部分,我们最近想出了一个哈希代码源分离系统,我们使用一个特别设计的哈希函数增加源分离性能和效率。

然而,源分离

我们的想法从最近邻搜索。想象一下你有一组混合光谱,清洁能源是已知的目标。从他们身上,我们可以构造一个相当详尽的字典混合光谱的频域(粉色矩阵的行向量在下图)。

对于一个给定的测试范围,这天真的分离系统第一次发现一些最相似光谱(例如,通过之间的内积和所有的行向量。自是一个大字典,希望有一些足够相似的物品。如果搜索成功,然后剩下的工作就是做交易,因为我们已经知道相应的源光谱的所有字典项。我们可以简单地收集源向量对应资讯字典条目,然后平均^[1]在这个系统中,我们使用理想的二进制面具(IBM)相应的混合物,而不是直接来源的估计。。

虽然这种天真的想法相当奏效(我们可以约9.66分贝提高信噪比方面),我们发现它令人不安,因为每个传入的资讯搜索测试光谱是不切实际的昂贵。

hashing-based加速!

这就是为什么我们需要一个散列技术。作为一个函数,哈希可以转换一个输入多维向量成一个位串:。那又怎样?当我们比较两个位串可以通过使用简单的汉明距离计算,这是一个逐位运算一个例子(见下图)。

例如,如果我们用位置敏感哈希(激光冲徊化)^[2]p .迪克和r . Motwani近似最近邻——删除维度的诅咒,”在进行年度ACM -兴寄托理论研讨会上的计算(获得STOC), 1998, pp。…继续阅读^[3]m·塔尔、n . Immorlica·迪克和v . s . Mirrokni”Locality-sensitive哈希方案基于p-stable distribu——,”在20年会的程序计算…继续阅读,哈希函数随机生成一个投影矩阵并将它输入向量投影系数的符号:。因此,如果有行,我们得到双二进制值^[4]+ 1和1。。例如,如果我们从513 -维傅里叶系数大小然后使用我们可以达到8.75 dB的改进。很大量的减少从513浮点值下降到150二进制值的空间和计算复杂度。

这一切hashing-related论点是酷,但我们想要做得更好。显然,虽然简单而有效,激光冲徊化可能不是最好的哈希函数对于我的问题,因为它是完全基于随机预测。如果是另一个哈希函数,效果一样好激光冲徊化情况下,但小得多,如只有25位?

激光冲徊化的局限性

让我们回顾一下激光冲徊化算法理解其局限性。再次,激光冲徊化是基于随机预测。它指的是一对非常接近的例子,他们很难在两端(正面和负面)投影后,见下图。

我想把这些一个喝醉的骑士的摆动实验随机预测”。“想象一对苹果挂在空中,但是他们的距离只有一英寸。醉汉骑士可能难以swing剑中间的苹果,“因为他是喝醉了!这就是为什么激光冲徊化产生类似的位串最初相似的输入向量。

另一方面,激光冲徊化可以创建有识别力的位串,当苹果遥远。换句话说,激光冲徊化预测更可能产生不同的签位,如果比较的例子是原始数据空间中相互远离。看下面的例子。

提高激光冲徊化

为此,我们开发了一种新的激光冲徊化算法,称为提高激光冲徊化(BLSH),我们引入学习演算法火车的预测。提高,我们能做的就是学习投影向量的“一个”的重要性。我们先来学习第一个投影向量。尽管它会给我们一个信号的例子,最好应该代表所有光谱的相似和不同。学习是相对简单的,因为我们最终会学习一个投影向量,后跟一个非线性函数,即:符号函数。想起?它只是一个感知器!为下一个,根据刺激方案中,我们将关注mis-represented的第一个例子代码,更多关注他们。通过这样做,当我们添加一个新的感知器,或一个弱的学习者,来弥补先前学习薄弱的学习者所犯的错误。

我们面临的挑战是,我们不做分类,但资讯源分离。所以,我们不能检查“错误”的错误支付不同的注意的例子。相反,我们将使用成对相似性原始光谱作为我们的目标:对于一个给定的光谱的成对汉明相似矩阵,如果注意学习从原来的哈希码,我们给一双大重量,指导下一个感知器去注意到它。这是我们的培训的目标,自相似性矩阵(SSM):

鉴于这种真实导弹、第一个感知器应该给我们一个二进制值每例,作为一个功能应该试着赶上GT SSM的形状。第一个散列码我们学习第一个感知器确实恢复一些大型GT SSM的结构:

当我们第一个感知器训练,反复使用当前的感知器执行预测权重(或投影向量),然后预测双二进制值构造预测导弹。真实比较预测导弹和导弹来计算损失,这是更新backpropagated感知器。

下列感知器,每当我们添加更多的弱的学习者,他们逐渐提高性能,这意味着恢复导弹看起来更类似于原始。5日感知器,例如,它看起来像这样:

学习这个th感知器有点不同于第一个感知器训练,我们需要给不同的权重的“是不是”的例子。在我们的例子中,一类的比较,我们可以确定一些导弹元素,表现不佳。当然是“错误”的概念不同,但同样有效的增强算法。毕竟,当我们计算损失,element-wise乘以权重矩阵如下:

最后,下面是我们计算后的二进制SSM学习并排100预测以及地面真理:

实验结果

让我们看看这张图,总结了hashing-based源分离模型的行为。

首先,所有的模型享受提高分离性能(signal-to-distortion比例而言)通过使用哈希码长(的比特数表示)。但是,提出BLSH方法(蓝色和绿色)持续超越普通随机projection-based激光冲徊化(红色和紫色)。更重要的是大约的尺寸矩阵。如果我们使用只有1%的可用的混合光谱对于我们的字典,随机projection-based激光冲徊化遭受很多的低性能和增加不确定性(紫色)。这意味着,这取决于采样随机投影矩阵,性能变化显著(见大置信区间)。与我们BLSH算法,另一方面,尽管它的分离质量退化当我们使用例子太少(1%)、置信区间很窄(绿色),展示BLSH是免费的从激光冲徊化存在的性能波动问题。

在下面的表格中,我们比较BLSH和其他设置,包括开放的情况下(在测试信号的噪声来源未知的散列算法)。令人惊讶的是,BLSH优于STFT-based基线。这意味着BLSH成功学特性比原始的傅里叶系数。还是从深度学习模型的性能,但考虑到效率、BLSH承诺为源分离在资源受限的环境中。

音频例子

在下面的例子中,我们将看到的优点BLSH激光冲徊化,因为BLSH位长度,而激光冲徊化必须使用125位同样质量的分离。关键是在低比特表示BLSH仍然有效。

下面我们介绍一些其他的例子作为BLSH-based分离的结果。在左边,它们混合输入到系统,相应的分离结果。

论文

更多细节请看看我们ICASSP 2020年的论文,被提名为最佳学生论文奖^[5]Sunwoo Kim Haici杨,Minje金”提高了位置敏感哈希:区别的二进制编码源分离,“IEEE国际会议的程序…继续阅读。

更深入的分析,从多方面的学习视角和内核和解释方法,可在我们的期刊论文:^[6]Sunwoo金姆和Minje金”,提高了位置敏感哈希:歧视、高效和可扩展的二进制编码源分离,“IEEE / ACM交易音频、语音和语言…继续阅读

源代码

我们也开源项目。

• ICASSP版:https://github.com/sunwookimiub/BLSH
• 《华尔街日报》版:https://github.com/kimsunwiub/BLSH-TASLP

虚拟演示ICASSP 2020

这种材料是基于工作支持下由美国国家科学基金会资助数量1909509。任何意见、发现和结论或建议在这种材料中表达作者的,不一定反映美国国家科学基金会的观点。