Mahalanobis Distance

Just now I saw a paper named

Using Mahalanobis distance to compare genomic signatures between bacterial plasmids and chromosomes

on Nucleic Acids Research.

To say the truth, I don't care what the paper are studying, but Mahalanobis distance grasped my eyesights as soon as I saw this title. What's Mahalanobis distance? I know nothing about it before.

In Chinese it is usually translated into "马哈朗诺比斯距离(马氏距离)"。Here is something helpful from someone's blog. (From: http://rogerdhj.blog.sohu.com/39020502.html )

定义：p维空间的两点（两个p维向量x,y）的距离定义为：

并且点x欧氏模数为：

这里很快可以得出，所有到原点距离相等的点满足

这是某个正球体的方程。这就是说观测数据x的各个分量对x至中心的欧式距离贡献是相等的。然而在统计学中我们希望寻求这样一种距离，它的各个分量的作用程度是不同的。差别较大的分量应该接受较小的权重。

如

然后定义x,y之间的距离

这里

现在x的模数等于

所有到原点等距离的点满足

这是以原点为中心的某个椭球体的方程。

Very clear, right? But please note the essential point of Mahalanobis Distance: The bigger the component of distance between two objects is, the smaller the corresponding weights should be.


Here is an example for application of Mahalanobis Distance on detecting the odd values. (From: http://nanapple.happy.blog.163.com/blog/static/77501222200883945195/)

之所以把它们称为异常值，是因为它们与众不同，远离大部分数据。它们有可能是一些错误数据，将会破坏您的分析结果。或者它们有可能是一些真实存在的现象，正在等待您的发现和理解，以便进行一些精彩的应用。无论是哪一种情况，您都应该重视它们。

对于一维数据 -- 他们只是一些极端值，很容易被发现。

	对于二维数据 -- 异常值在一些偏僻的方向延伸出来。如果变量具有相关性，那您会看到异常值在二维的方向延伸出来，而不是在某个维度分别延伸出来。您可以通过测量该点与正态分布云图的偏离距离来量化它的偏移。该距离称为马哈朗诺比斯距离（Mahalanobis distance）。

对于三维数据 -- 三维旋转图用于发现三维的异常值。如果您的数据变量多于三维，那您不得不使用其它的技术。如果您的数据变量都具有相关性， 您将可以看到您的数据有着一定的延伸方向。同时您可以看到异常值从偏僻的方向延伸出来。所以您可以选取三个主要变量来制作三维旋转图，以发现异常值。

考虑N维的情况 另一方面，您可以考虑整个相关矩阵，为每一个观测计算其马哈朗诺比斯距离。再从多元均值中得到N维的距离。但是这样一来，所有的观测，变量，包括被测量值 本身都会被考虑进去，这使得测量出的距离与被测量值具有相关性，影响结果的准确性。所以在这种情况下，使用折叠距离（Jackknifed distance)会更好 -- 每一点将与不包含该点的观测进行距离测量。

　

如果您正在拟合模型，您可能会想知道每一个观测对结果的影响。此时您可以使用杠杆图（Leverage plot)。它将显示某个观测的残差以及该残差对模型所造成的影响。如果您希望从数据中发现潜在信息，灵活运用JMP强大的图形工具绝对会对您有很大的帮助。

Seems there are still a lot of novel distance definition which is unknown to me. Let me think it over, what this distance can help me in my research?