Skip to main content

Table 3 Mean estimates from 20000 replicate simulations of bias (MC error of bias), variance (MC error of variance) and type-1 error (MC error type-1 error), from the fitted linear, beta, variable-dispersion beta and fractional logit regression models estimated on the beta distributed response data (Type 1 error experiments)

From: A Monte Carlo simulation study comparing linear regression, beta regression, variable-dispersion beta regression and fractional logit regression at recovering average difference measures in a two sample design

     

Linear regression model

Beta regression model

Variable dispersion beta regression model

Fractional logit regression model

N0 = N1

μ0

φ 0

μ1

φ 1

Bias

MC error bias

Variance

MC error variance

Type-1 Error

MC Error Type-1 Error

Bias

MC error bias

Variance

MC error variance

Type-1 Error

MC Error Type-1 Error

Bias

MC error bias

Variance

MC error variance

Type-1 Error

MC Error Type-1 Error

Bias

MC error bias

Variance

MC error variance

Type-1 Error

MC Error Type-1 Error

25

0.5

5

0.5

5

-4.18E-04

4.10E-04

3.34E-03

3.35E-05

0.050

0.002

-4.52E-04

4.06E-04

3.11E-03

2.99E-05

0.063

0.002

-4.57E-04

4.07E-04

3.09E-03

2.97E-05

0.064

0.002

-4.18E-04

4.10E-04

3.20E-03

3.29E-05

0.061

0.002

100

0.5

5

0.5

5

2.07E-04

2.05E-04

8.33E-04

8.15E-06

0.050

0.002

1.65E-04

2.03E-04

8.06E-04

7.41E-06

0.052

0.002

1.61E-04

2.03E-04

8.05E-04

7.40E-06

0.053

0.002

2.07E-04

2.05E-04

8.25E-04

8.11E-06

0.053

0.002

250

0.5

5

0.5

5

-1.72E-04

1.29E-04

3.33E-04

3.24E-06

0.050

0.002

-1.57E-04

1.27E-04

3.25E-04

2.95E-06

0.052

0.002

-1.61E-04

1.28E-04

3.24E-04

2.94E-06

0.052

0.002

-1.72E-04

1.29E-04

3.32E-04

3.23E-06

0.051

0.002

750

0.5

5

0.5

5

2.88E-05

7.45E-05

1.11E-04

1.08E-06

0.050

0.002

1.20E-05

7.35E-05

1.09E-04

9.87E-07

0.049

0.002

1.15E-05

7.35E-05

1.09E-04

9.87E-07

0.049

0.002

2.88E-05

7.45E-05

1.11E-04

1.08E-06

0.050

0.002

25

0.5

100

0.5

100

3.16E-05

9.98E-05

1.98E-04

1.00E-05

0.051

0.002

3.25E-05

9.98E-05

1.90E-04

9.81E-06

0.062

0.002

3.24E-05

9.98E-05

1.90E-04

9.80E-06

0.062

0.002

3.16E-05

9.98E-05

1.91E-04

9.82E-06

0.061

0.002

100

0.5

100

0.5

100

-1.44E-05

4.99E-05

4.95E-05

2.44E-06

0.051

0.002

-1.38E-05

4.99E-05

4.90E-05

2.43E-06

0.054

0.002

-1.38E-05

4.99E-05

4.90E-05

2.43E-06

0.054

0.002

-1.44E-05

4.99E-05

4.90E-05

2.43E-06

0.053

0.002

250

0.5

100

0.5

100

6.80E-06

3.13E-05

1.98E-05

1.01E-06

0.049

0.002

6.67E-06

3.12E-05

1.97E-05

1.01E-06

0.049

0.002

6.67E-06

3.12E-05

1.97E-05

1.01E-06

0.049

0.002

6.80E-06

3.13E-05

1.97E-05

1.01E-06

0.049

0.002

750

0.5

100

0.5

100

-1.67E-06

1.82E-05

6.66E-06

6.47E-07

0.052

0.002

-1.62E-06

1.82E-05

6.65E-06

6.55E-07

0.053

0.002

-1.62E-06

1.82E-05

6.65E-06

6.55E-07

0.053

0.002

-1.67E-06

1.82E-05

6.65E-06

6.54E-07

0.053

0.002

25

0.25

5

0.25

5

-2.08E-04

3.52E-04

2.50E-03

3.74E-05

0.049

0.002

-7.51E-05

3.27E-04

2.05E-03

3.10E-05

0.062

0.002

-1.59E-04

3.48E-04

2.33E-03

3.25E-05

0.060

0.002

-2.08E-04

3.52E-04

2.40E-03

3.67E-05

0.060

0.002

100

0.25

5

0.25

5

2.77E-04

1.77E-04

6.26E-04

9.09E-06

0.050

0.002

2.83E-04

1.64E-04

5.28E-04

7.71E-06

0.053

0.002

3.26E-04

1.75E-04

6.06E-04

8.12E-06

0.053

0.002

2.77E-04

1.77E-04

6.20E-04

9.04E-06

0.053

0.002

250

0.25

5

0.25

5

1.11E-04

1.12E-04

2.50E-04

3.64E-06

0.049

0.002

1.38E-04

1.03E-04

2.12E-04

3.10E-06

0.051

0.002

1.14E-04

1.10E-04

2.44E-04

3.27E-06

0.050

0.002

1.11E-04

1.12E-04

2.49E-04

3.63E-06

0.050

0.002

750

0.25

5

0.25

5

4.20E-05

6.44E-05

8.33E-05

1.22E-06

0.048

0.002

2.86E-05

5.94E-05

7.09E-05

1.05E-06

0.050

0.002

4.40E-05

6.38E-05

8.15E-05

1.10E-06

0.049

0.002

4.20E-05

6.44E-05

8.32E-05

1.22E-06

0.048

0.002

25

0.25

100

0.25

100

2.34E-05

8.69E-05

1.48E-04

8.84E-06

0.050

0.002

1.31E-05

8.66E-05

1.41E-04

8.50E-06

0.060

0.002

2.39E-05

8.69E-05

1.42E-04

8.58E-06

0.060

0.002

2.34E-05

8.69E-05

1.42E-04

8.65E-06

0.060

0.002

100

0.25

100

0.25

100

9.32E-06

4.31E-05

3.71E-05

2.18E-06

0.051

0.002

1.03E-05

4.30E-05

3.65E-05

2.13E-06

0.053

0.002

9.62E-06

4.31E-05

3.67E-05

2.15E-06

0.053

0.002

9.32E-06

4.31E-05

3.67E-05

2.17E-06

0.053

0.002

250

0.25

100

0.25

100

-7.06E-06

2.73E-05

1.49E-05

9.05E-07

0.049

0.002

-8.38E-06

2.72E-05

1.47E-05

8.93E-07

0.050

0.002

-7.25E-06

2.73E-05

1.48E-05

9.01E-07

0.049

0.002

-7.06E-06

2.73E-05

1.48E-05

9.05E-07

0.050

0.002

750

0.25

100

0.25

100

1.44E-05

1.58E-05

5.00E-06

1.36E-07

0.049

0.002

1.30E-05

1.58E-05

4.99E-06

1.63E-07

0.051

0.002

1.44E-05

1.58E-05

4.99E-06

1.37E-07

0.050

0.002

1.44E-05

1.58E-05

4.99E-06

1.39E-07

0.049

0.002

25

0.05

5

0.05

5

3.45E-04

1.78E-04

6.35E-04

4.42E-05

0.042

0.001

1.05E-04

9.94E-05

1.96E-04

2.44E-05

0.040

0.001

3.40E-04

1.73E-04

6.24E-04

3.82E-05

0.036

0.001

3.45E-04

1.78E-04

6.09E-04

4.33E-05

0.054

0.002

100

0.05

5

0.05

5

-7.35E-05

8.93E-05

1.59E-04

1.10E-05

0.051

0.002

-3.62E-05

4.83E-05

4.68E-05

5.98E-06

0.048

0.002

-6.70E-05

8.80E-05

1.56E-04

9.75E-06

0.048

0.002

-7.35E-05

8.93E-05

1.57E-04

1.09E-05

0.053

0.002

250

0.05

5

0.05

5

2.00E-05

5.58E-05

6.32E-05

4.40E-06

0.049

0.002

4.10E-05

3.03E-05

1.84E-05

2.38E-06

0.050

0.002

1.63E-05

5.53E-05

6.21E-05

3.92E-06

0.048

0.002

2.00E-05

5.58E-05

6.29E-05

4.39E-06

0.050

0.002

750

0.05

5

0.05

5

6.80E-06

3.25E-05

2.11E-05

1.49E-06

0.050

0.002

-6.04E-06

1.75E-05

6.13E-06

8.98E-07

0.050

0.002

6.78E-06

3.21E-05

2.07E-05

1.34E-06

0.050

0.002

6.80E-06

3.25E-05

2.11E-05

1.49E-06

0.050

0.002

25

0.05

100

0.05

100

-4.70E-05

4.37E-05

3.76E-05

5.33E-06

0.050

0.002

-5.81E-05

4.19E-05

3.32E-05

4.40E-06

0.062

0.002

-4.70E-05

4.36E-05

3.64E-05

4.92E-06

0.059

0.002

-4.70E-05

4.37E-05

3.61E-05

5.22E-06

0.060

0.002

100

0.05

100

0.05

100

2.39E-05

2.16E-05

9.41E-06

1.36E-06

0.049

0.002

2.17E-05

2.07E-05

8.54E-06

1.14E-06

0.052

0.002

2.38E-05

2.16E-05

9.32E-06

1.26E-06

0.050

0.002

2.39E-05

2.16E-05

9.31E-06

1.35E-06

0.052

0.002

250

0.05

100

0.05

100

-3.24E-05

1.37E-05

3.82E-06

7.23E-07

0.050

0.002

-3.21E-05

1.31E-05

3.38E-06

9.34E-07

0.050

0.002

-3.24E-05

1.37E-05

3.83E-06

6.98E-07

0.051

0.002

-3.24E-05

1.37E-05

3.81E-06

7.43E-07

0.051

0.002

750

0.05

100

0.05

100

-2.60E-06

7.93E-06

1.00E-06

0.00E + 00

0.052

0.002

-3.87E-06

7.60E-06

1.00E-06

0.00E + 00

0.052

0.002

-2.63E-06

7.93E-06

1.00E-06

0.00E + 00

0.052

0.002

-2.60E-06

7.93E-06

1.00E-06

0.00E + 00

0.052

0.002

25

0.5

5

0.5

10

-2.22E-04

3.59E-04

2.57E-03

3.12E-05

0.052

0.002

-2.37E-04

3.62E-04

2.46E-03

3.01E-05

0.065

0.002

-2.24E-04

3.58E-04

2.40E-03

2.81E-05

0.064

0.002

-2.22E-04

3.59E-04

2.47E-03

3.06E-05

0.062

0.002

100

0.5

5

0.5

10

-1.92E-04

1.80E-04

6.44E-04

7.71E-06

0.051

0.002

-2.03E-04

1.82E-04

6.40E-04

7.59E-06

0.055

0.002

-2.09E-04

1.79E-04

6.26E-04

7.12E-06

0.054

0.002

-1.92E-04

1.80E-04

6.38E-04

7.68E-06

0.054

0.002

250

0.5

5

0.5

10

-9.90E-05

1.13E-04

2.57E-04

3.04E-06

0.050

0.002

-7.63E-05

1.14E-04

2.58E-04

3.00E-06

0.054

0.002

-6.83E-05

1.12E-04

2.52E-04

2.81E-06

0.052

0.002

-9.90E-05

1.13E-04

2.56E-04

3.03E-06

0.051

0.002

750

0.5

5

0.5

10

2.83E-05

6.59E-05

8.58E-05

1.02E-06

0.052

0.002

4.12E-05

6.65E-05

8.62E-05

1.01E-06

0.053

0.002

3.14E-05

6.54E-05

8.43E-05

9.47E-07

0.053

0.002

2.83E-05

6.59E-05

8.57E-05

1.02E-06

0.053

0.002

25

0.5

100

0.5

200

-2.30E-05

8.62E-05

1.49E-04

9.17E-06

0.051

0.002

-2.33E-05

8.63E-05

1.43E-04

9.01E-06

0.061

0.002

-2.36E-05

8.62E-05

1.43E-04

8.97E-06

0.061

0.002

-2.30E-05

8.62E-05

1.43E-04

8.99E-06

0.061

0.002

100

0.5

100

0.5

200

9.13E-05

4.29E-05

3.72E-05

2.25E-06

0.046

0.001

9.09E-05

4.29E-05

3.68E-05

2.25E-06

0.048

0.002

9.09E-05

4.29E-05

3.68E-05

2.24E-06

0.048

0.002

9.13E-05

4.29E-05

3.68E-05

2.24E-06

0.048

0.002

250

0.5

100

0.5

200

-4.36E-05

2.74E-05

1.49E-05

9.42E-07

0.051

0.002

-4.35E-05

2.74E-05

1.48E-05

9.43E-07

0.052

0.002

-4.34E-05

2.74E-05

1.48E-05

9.39E-07

0.052

0.002

-4.36E-05

2.74E-05

1.48E-05

9.41E-07

0.052

0.002

750

0.5

100

0.5

200

1.09E-06

1.58E-05

5.00E-06

1.47E-07

0.052

0.002

8.86E-07

1.58E-05

5.00E-06

1.48E-07

0.052

0.002

8.93E-07

1.58E-05

5.00E-06

1.49E-07

0.052

0.002

1.09E-06

1.58E-05

5.00E-06

1.49E-07

0.052

0.002

25

0.25

5

0.25

10

-3.68E-04

3.11E-04

1.93E-03

3.36E-05

0.050

0.002

2.27E-02

2.96E-04

1.67E-03

2.86E-05

0.102

0.002

-1.82E-05

3.09E-04

1.81E-03

2.96E-05

0.062

0.002

-3.68E-04

3.11E-04

1.85E-03

3.29E-05

0.061

0.002

100

0.25

5

0.25

10

-3.66E-04

1.55E-04

4.83E-04

8.36E-06

0.050

0.002

2.35E-02

1.47E-04

4.31E-04

7.22E-06

0.211

0.003

-2.87E-04

1.54E-04

4.70E-04

7.50E-06

0.053

0.002

-3.66E-04

1.55E-04

4.78E-04

8.31E-06

0.052

0.002

250

0.25

5

0.25

10

9.95E-05

9.78E-05

1.93E-04

3.35E-06

0.049

0.002

2.41E-02

9.22E-05

1.73E-04

2.91E-06

0.456

0.004

1.48E-04

9.69E-05

1.89E-04

3.03E-06

0.050

0.002

9.95E-05

9.78E-05

1.92E-04

3.34E-06

0.050

0.002

750

0.25

5

0.25

10

-9.18E-06

5.71E-05

6.44E-05

1.11E-06

0.053

0.002

2.40E-02

5.38E-05

5.79E-05

9.70E-07

0.884

0.002

1.60E-05

5.66E-05

6.33E-05

1.01E-06

0.053

0.002

-9.18E-06

5.71E-05

6.43E-05

1.11E-06

0.054

0.002

25

0.25

100

0.25

200

2.38E-05

7.50E-05

1.12E-04

8.09E-06

0.050

0.002

1.22E-03

7.48E-05

1.07E-04

7.81E-06

0.062

0.002

2.42E-05

7.50E-05

1.07E-04

7.85E-06

0.061

0.002

2.38E-05

7.50E-05

1.07E-04

7.93E-06

0.060

0.002

100

0.25

100

0.25

200

-8.89E-06

3.76E-05

2.79E-05

1.99E-06

0.051

0.002

1.24E-03

3.75E-05

2.75E-05

1.96E-06

0.059

0.002

-8.41E-06

3.76E-05

2.76E-05

1.97E-06

0.054

0.002

-8.89E-06

3.76E-05

2.76E-05

1.98E-06

0.054

0.002

250

0.25

100

0.25

200

-1.15E-05

2.38E-05

1.12E-05

8.52E-07

0.051

0.002

1.23E-03

2.37E-05

1.11E-05

8.41E-07

0.069

0.002

-1.16E-05

2.38E-05

1.11E-05

8.47E-07

0.052

0.002

-1.15E-05

2.38E-05

1.11E-05

8.50E-07

0.052

0.002

750

0.25

100

0.25

200

6.24E-06

1.36E-05

3.94E-06

4.26E-07

0.050

0.002

1.26E-03

1.36E-05

3.92E-06

4.77E-07

0.099

0.002

6.41E-06

1.36E-05

3.94E-06

4.36E-07

0.050

0.002

6.24E-06

1.36E-05

3.93E-06

4.41E-07

0.050

0.002

25

0.05

5

0.05

10

5.41E-05

1.54E-04

4.90E-04

3.90E-05

0.051

0.002

2.16E-02

9.12E-05

1.90E-04

2.11E-05

0.374

0.003

5.03E-04

1.51E-04

4.85E-04

3.38E-05

0.047

0.001

5.41E-05

1.54E-04

4.70E-04

3.82E-05

0.061

0.002

100

0.05

5

0.05

10

-6.01E-05

7.71E-05

1.22E-04

9.72E-06

0.049

0.002

2.19E-02

4.47E-05

4.62E-05

5.19E-06

0.920

0.002

5.21E-05

7.64E-05

1.21E-04

8.56E-06

0.048

0.002

-6.01E-05

7.71E-05

1.21E-04

9.67E-06

0.051

0.002

250

0.05

5

0.05

10

-5.42E-05

4.93E-05

4.90E-05

3.86E-06

0.049

0.002

2.22E-02

2.84E-05

1.84E-05

2.08E-06

1.000

0.000

-7.90E-07

4.90E-05

4.83E-05

3.43E-06

0.049

0.002

-5.42E-05

4.93E-05

4.88E-05

3.85E-06

0.050

0.002

750

0.05

5

0.05

10

5.39E-05

2.83E-05

1.63E-05

1.31E-06

0.049

0.002

2.22E-02

1.63E-05

6.13E-06

7.84E-07

1.000

0.000

6.76E-05

2.81E-05

1.61E-05

1.17E-06

0.049

0.002

5.39E-05

2.83E-05

1.63E-05

1.31E-06

0.049

0.002

25

0.05

100

0.05

200

-1.58E-06

3.76E-05

2.82E-05

4.79E-06

0.054

0.002

2.09E-03

3.63E-05

2.54E-05

3.98E-06

0.082

0.002

-6.31E-07

3.76E-05

2.72E-05

4.43E-06

0.062

0.002

-1.58E-06

3.76E-05

2.71E-05

4.69E-06

0.064

0.002

100

0.05

100

0.05

200

1.51E-05

1.90E-05

7.07E-06

1.24E-06

0.052

0.002

2.19E-03

1.83E-05

6.56E-06

1.07E-06

0.144

0.002

1.55E-05

1.90E-05

7.01E-06

1.16E-06

0.054

0.002

1.51E-05

1.90E-05

6.99E-06

1.23E-06

0.056

0.002

250

0.05

100

0.05

200

-7.23E-06

1.19E-05

2.94E-06

5.33E-07

0.051

0.002

2.19E-03

1.15E-05

2.77E-06

8.89E-07

0.272

0.003

-6.93E-06

1.19E-05

2.94E-06

4.99E-07

0.052

0.002

-7.23E-06

1.19E-05

2.93E-06

5.56E-07

0.052

0.002

750

0.05

100

0.05

200

-4.05E-06

6.85E-06

1.00E-06

0.00E + 00

0.049

0.002

2.19E-03

6.60E-06

1.00E-06

0.00E + 00

0.647

0.003

-4.04E-06

6.85E-06

1.00E-06

0.00E + 00

0.050

0.002

-4.05E-06

6.85E-06

1.00E-06

0.00E + 00

0.050

0.002

  1. The first 24 rows of the Table describe experiments where the dispersion parameter does not vary as a function of group membership; whereas, in the bottom 24 rows of the Table the dispersion parameter varies as a function of group membership. Rows 1–8 (and 25–32) correspond to simulated experiments where the mass of the distribution is near 0.50, rows 9–16 (and 33–40) correspond to simulated experiments where the mass of the distribution is centered near 0.25, and finally rows 17–24 (and 41–48) correspond to simulated experiments where the mass of the distribution is near 0.05.
  2. ∆ = 0 (type-1 error experiments).
  3. Type-1 error refers to proportion of null hypothesis reject (expected 0.05).