本公开涉及用于响应于多个输入数据提供多个输出数据的机器学习模型的方法和系统,并且更具体地,涉及用于在多个输入数据中检测有助于多个输出数据之间的相似性的元素的方法和系统。
背景技术:
1、日本专利公开no.2021-060763中教导的用于机器学习模型的数据处理系统(其是用于机器学习模型的系统之一)已经计算了多个输入数据中的元素对多个输出数据的重要性。出于上述计算的目的,数据处理系统利用上述元素之间的关系。
2、例如,在接收到被认为对于人类而言彼此相似的两个图像数据a1和a2时,包括上述数据处理系统的常规系统可能断定图像数据a1和a2彼此不相似。相反,在接收到被认为对于人类而言彼此不同的两个图像数据a1和b1时,上述常规系统可能断定图像数据a1和b1不是彼此不同。
3、然而,无法阐明或识别上述常规系统如上所述非准确地断定或误判的原因或起源。
4、引用列表
5、专利文献
6、[ptl1]:jp 2021-060763a
技术实现思路
1、为了解决上述问题,本公开的一方面提供了一种方法,所述方法包括以下步骤:计算提供给机器学习模型的第一输入数据a和第二输入数据b之间的第一差d,所述机器学习模型具有函数f并且分别响应于所述第一输入数据a和所述第二输入数据b输出第一结果f(a)和第二结果f(b),其中,d=(元素d[1],d[2],···,d[n])、a=(元素a[1],a[2],···,a[n])、b=(元素b[1],b[2],···,b[n])、f(a)=(f(a)[1],f(a)[2],···,f(a)[m])、f(b)=(f(b)[1],f(b)[2],···,f(b)[m]),并且n和m是正整数;通过关于所述第一输入数据a和所述第二输入数据b部分地对所述函数f求微分以得到雅可比矩阵ja和雅可比矩阵jb并且将所述雅可比矩阵ja和所述雅可比矩阵jb进行转置来计算转置雅可比矩阵jat和转置雅可比矩阵jbt;计算所述转置雅可比矩阵jat与所述结果f(a)的第一乘积、以及所述转置雅可比矩阵jbt与所述结果f(b)的第二乘积;计算所述第一乘积和所述第二乘积之间的第二差w,其中w=(元素w[1],w[2],···,w[n]);以及判断所述第一差d的元素d[j]与所述第二差w的元素w[j]的较大乘积对所述第一结果f(a)与所述第二结果f(b)之间的相似性贡献较大,其中,j为小于或等于n的正整数。
2、本公开的另一方面提供了一种方法,该方法还包括以下步骤:在所述机器学习模型是包括多个中间层的神经网络的情况下,允许所述函数f表示所述多个中间层中的至少一个中间层;以及当所述第一差d的元素d[j]与所述第二差w的元素w[j]的乘积时,判断所述函数f对所述相似性的贡献小于表示所述多个中间层中的在所述多个中间层中的至少一个中间层之前的其余中间层的函数g,所述第一差d和所述第二差w通过使用馈送到所述函数f的第一中间数据xa和第二中间数据xb以及由所述函数f输出的第一结果f(xa)和第二结果f(xb)代替使用所述第一输入数据a和所述第二输入数据b以及所述第一结果f(a)和所述第二结果f(b)来定义。
3、本公开的又一方面提供了一种方法,该方法还包括以下步骤:在所述机器学习模型是包括多个中间层的卷积神经网络的情况下,允许所述函数f表示所述多个中间层中的至少一个中间层;以及通过分别过滤配置第一中间数据xa的第一多个映射ma和配置第二中间数据xb的第二多个映射mb来指定分别表征所述第一多个映射ma的第一多个区域ra和分别表征所述第二多个映射mb的第二多个区域rb;所述第一中间数据xa和所述第二中间数据xb分别响应于所述输入数据a和所述第二输入数据b由表示所述多个中间层中的在所述多个中间层中的至少一个中间层之前的其余多个中间层的函数g输出并且被馈送到函数f;以及针对与所述第一多个映射ma和所述第二多个映射mb相对应的多个通道中的每个通道,将所述第一多个区域ra连接到所述第二多个区域rb。
4、本公开的又一方面提供了一种系统,所述系统包括:第一计算器,所述第一计算器计算提供给机器学习模型的第一输入数据a和第二输入数据b之间的第一差d,所述机器学习模型具有函数f并且分别响应于所述第一输入数据a和所述第二输入数据b输出第一结果f(a)和第二结果f(b),其中,d=(元素d[1],d[2],···,d[n])、a=(元素a[1],a[2],···,a[n])、b=(元素b[1],b[2],···,b[n])、f(a)=(f(a)[1],f(a)[2],···,f(a)[m])、f(b)=(f(b)[1],f(b)[2],···,f(b)[m]),并且n和m是正整数;第二计算器,所述第二计算器通过关于所述第一输入数据a和所述第二输入数据b部分地对所述函数f求微分以产生雅可比矩阵ja和雅可比矩阵jb并且对所述雅可比矩阵ja和所述雅可比矩阵jb进行转置来计算转置雅可比矩阵jat和转置雅可比矩阵jbt;第三计算器,所述第三计算器计算所述转置雅可比矩阵jat与所述结果f(a)的第一乘积、以及所述转置雅可比矩阵jbt与所述结果f(b)的第二乘积;第四计算器,所述第四计算器计算所述第一乘积和所述第二乘积之间的第二差w,其中,w=(元素w[1],w[2],···,w[n]);以及判断器,所述判断器判断所述第一差d的元素d[j]与所述第二差w的元素w[j]的较大乘积对所述第一结果f(a)与所述第二结果f(b)之间的相似性贡献较大,其中,j为小于或等于n的正整数。
1.一种方法,所述方法包括以下步骤:
2.根据权利要求1所述的方法,所述方法还包括以下步骤:
3.根据权利要求1所述的方法,所述方法还包括以下步骤:
4.根据权利要求1所述的方法,所述方法还包括以下步骤:
5.一种系统,所述系统包括: