正文
- 如何评判OPLS-DA模型的好坏?
- MetaboAnalystR使用如下图判断OPLS-DA是否有效。该图横坐标表示模型的准确率,纵坐标表示200次转换检验中200个模型的准确率的频数,箭头表示本OPLS-DA模型准确率所在的位置。
- 观察R2Y和Q2的Pvalue值。如果两者的Pvalue都小于0.05,则没有证据表明该模型过拟合。通常情况下,R2、Q2高于0.5较好,高于0.4即可接受。
- 从图中可以看出Q2为0.994,R2Y为1,R2X为0.685,Q2和R2Y的P值均为0.005,说明permutation Test中只有1个随机分组模型结果优于本OPLS-DA模型,一般情况下P<0.05时模型最佳。
/img-20240909204615305.webp)
- R2Y和Q2指标以及意义是什么?
-
R2Y:代表了模型的可解释性,即模型中有多少百分比的信息能够解释我们事先知道的分类变量Y。R2Y越接近1,说明模型能解释两组分类的信息越多,两组之间的差异越大。
-
Q2 (Q2Y): 这个指标用于评估模型的预测能力Q2值表示模型在预测新数据(未见数据)时的解释能力。Q2的值越高,说明模型的预测性能越好。Q2通常是通过交叉验证计算的,例如,常见的方法是7折交叉验证或留一法交叉验证。Q2值是根据模型在验证集上的预测结果来计算的,反映了模型的稳健性。Q2越接近1,说明模型的可预测性越强,模型越可靠。一般来说,Q2≥0.4被认为是比较理想的,Q2≥0.2也可以接受,但模型较弱。
-
计算Q2的过程一般包括以下步骤:
- 数据分割:将数据分为训练集和验证集,通常使用交叉验证的方法。
- 模型训练:在训练集上训练模型。
- 模型预测:使用训练好的模型对验证集进行预测。
- 计算预测残差:计算预测值与真实值之间的残差。
- 计算Q2值:通过比较预测残差和总体数据的变异,计算出Q2值。
-
-
上图的Permutation是什么?
R2Y和Q2Y是模型评估中的两个重要指标,它们分别代表了模型的可解释性和可预测性。置换检验(Permutation Test)作为一种外部验证方法,就显得尤为重要、-
初始模型:首先使用原始数据构建模型,并计算相应的Q2Y值。这反映了模型对实际数据的预测能力。
-
随机置换Y响应:随机打乱Y响应的顺序,即改变Y标签的排列,但不改变每个标签的值。这样每个X(自变量)的对应Y(因变量)会被随机分配,从而破坏X和Y之间的真实关系。
-
重新构建模型:使用置换后的Y响应重新构建模型,并计算新的Q2Y值。由于Y响应是随机打乱的,模型不应该能够从中找到任何有意义的模式,因此这些模型的Q2Y值应该较低。
-
重复多次:进行多次(如20次)随机置换和重建模型,计算每次的Q2Y值。
-
计算pQ2值:比较初始模型的Q2Y值和置换模型的Q2Y值,计算出pQ2值。具体来说,pQ2值是置换模型的Q2Y值高于初始模型Q2Y值的比例。例如,如果所有置换模型的Q2Y值都低于初始模型的Q2Y值,pQ2 = (1 + 0) / 20 = 0.05。
-