Skip to main content

Table 3 Results of the real data study, colon data

From: Optimal classifier selection and negative bias in error rate estimation: an empirical study on high-dimensional prediction

Colon

 

p*

10

20

50

100

200

500

2000

Method

Parameter

        

KNN

k = 1

 

-

0.19

0.21

0.24

0.18

0.23

-

KNN

k = 3

 

-

0.18

0.15

0.16

0.16

0.16

-

KNN

k = 5

 

-

0.18

0.16

0.19

0.15

0.13

-

LDA

  

0.19

0.21

-

-

-

-

-

FDA

  

0.18

0.21

-

-

-

-

-

DLDA

  

-

0.15

0.16

0.13

0.18

0.24

-

PLSLDA

ncomp = 2

 

-

0.16

0.16

0.16

0.18

0.16

-

 

ncomp = 3

 

-

0.18

0.16

0.13

0.16

0.18

-

NNET

  

-

0.35

0.35

0.34

0.37

0.34

-

RF

mtry =

 

-

-

-

-

-

-

0.18

 

mtry =

 

-

-

-

-

-

-

0.18

 

mtry =

 

-

-

-

-

-

-

0.18

 

mtry =

 

-

-

-

-

-

-

0.18

SVM

  

-

-

-

-

-

-

0.13

PAM

  

-

-

-

-

-

-

0.11

L 2

  

-

-

-

-

-

-

0.18

Prostate

 

p*

10

20

50

100

200

500

5908

Method

Parameter

        

KNN

k = 1

 

-

0.12

0.15

0.14

0.10

0.12

-

KNN

k = 3

 

-

0.08

0.08

0.07

0.07

0.09

-

KNN

k = 5

 

-

0.07

0.09

0.08

0.09

0.10

-

LDA

  

0.08

0.08

-

-

-

-

-

FDA

  

0.08

0.08

-

-

-

-

-

DLDA

  

-

0.10

0.13

0.13

0.19

0.24

-

PLSLDA

ncomp = 2

 

-

0.06

0.08

0.06

0.08

0.08

-

 

ncomp = 3

 

-

0.08

0.06

0.06

0.08

0.07

-

NNET

  

-

0.10

0.12

0.10

0.15

0.20

-

RF

mtry =

 

-

-

-

-

-

-

0.08

 

mtry =

 

-

-

-

-

-

-

0.08

 

mtry =

 

-

-

-

-

-

-

0.08

 

mtry =

 

-

-

-

-

-

-

0.08

SVM

  

-

-

-

-

-

-

0.10

PAM

  

-

-

-

-

-

-

0.21

L 2

  

-

-

-

-

-

-

0.09

  1. CV error rates obtained with different methods for the colon data set (top) [17] and the prostate data (bottom) [18], with variable selection (if any) based on the t-statistic.