Мастицкий С. Э. Методическое пособие по использованию программы STATISTICA при обработке данных биологических исследований. Методическое пособие по использованию программы statistica при обработке данных биологических исследований Минск руп Институт рыбного хозяйства

Глава 7. Регрессионный анализ
В предыдущей главе мы научились оценивать направление и степень связи между двумя признаками с помощью корреляционного анализа. Хотя коэффициент корреляции и позволяет количественно охарактеризовать степень связи, с его помощью невозможно предсказать, чему в среднем будет равно значение одного признака при заданном значении другого признака. Решить эту задачу позволяет регрессионный анализ.
7.1. Оценка коэффициентов линейной регрессии
Достаточно часто связь между двумя биологическими признаками имеет линейный характер, что, как известно, можно выразить в виде уравнения
y = a + bx, где

y и x – анализируемые признаки;

а – свободный член уравнения; при b = 0 получаем y = а, т.е. а
– это точка, в которой линия регрессии пересекается с осью
OY (эту точку называют также «y-пересечением», или
«Intercept»);

b – коэффициент регрессии, отражающий угол наклона линии регрессии. Чем больше b отличается от 0, тем сильнее связь между анализируемыми признаками.
Даже если связь между биологическими признаками носит нелинейный характер
(например, экспоненциальный),
Ру ко пи сь

63 практически всегда можно выделить участки, хорошо аппроксимируемые линейной регрессией. Поэтому именно с нее мы и начнем рассмотрение регрессионного анализа.
Приведенное выше уравнение можно использовать для описания связи между двумя признаками лишь при выполнении следующих обязательных условий:

Зависимость между признаками носит линейный характер;

Оба признака распределены нормально.
На рис. 7.1 приведены данные о систолическом давлении крови у людей разного возраста. Рассчитаем коэффициенты линейного регрессионного уравнения, описывающего связь между этими двумя биологическими параметрами.
Расчет коэффициентов регрессионных уравнений можно выполнить в нескольких модулях программы STATISTICA. Мы воспользуемся модулем
Multiple
Regression
Analysis
(Анализ множественной регрессии). Для выполнения регрессионного анализа необходимо:

Запустить соответствующий модуль из меню Statistics или нажать на кнопку на дополнительной панели инструментов.

В появившемся окне нажать на кнопку Variables и указать, какая из анализируемых переменных является зависимой (Dependent
variable), а какая – независимой (Independent variable) (в нашем примере систолическое давление зависит от возраста).
Нажать кнопку ОК. В итоге появится окно (рис. 7.2), которое уже на данном этапе анализа содержит некоторые важные его результаты: а) Dependent: имя зависимой переменной; б) No. of cases: число наблюдений;
Рисунок
7.1.
Пример оформления данных для выполнения регрессионного анализа
Ру ко пи сь

64 в) Intercept: значение свободного члена регрессионного уравнения; г) Std. error: стандартная ошибка свободного члена регрессионного уравнения; д) Multiple R: коэффициент множественной корреляции; е) R
2
: коэффициент детерминации. Это очень важный показатель в регрессионном анализе. Он изменяется от 0 до 1 и отражает «качество» рассчитанной регрессии, показывая долю (%) общего разброса выборочных точек, которая «объясняется» построенной регрессией (например, при R
2
= 0,85, следует вывод о том, что 85% дисперсии зависимой переменной
y объясняется вариацией независимой переменной х); ж) Adjusted R
2
: скорректированный на число степеней свободы коэффициент детерминации (Adjusted R-square =
1 - (1 - R-square)

[n/(n - p)], где n – число наблюдений, р – число независимых переменных плюс 1); з) Standard error of estimate: параметр, отражающий степень разброса выборочных значений относительно линии регрессии; и) F, df и p: F-критерий, число степеней свободы, принятое при его расчете, и вероятность ошибки для нулевой гипотезы F-теста. F-тест в регрессионном анализе применяется для оценки статистической значимости модели
(см., например, книгу Гланц 1999). При Р < 0,05 можно заключить, что рассчитанная регрессия удовлетворительно описывает связь между исследуемыми признаками; к) t(df) и p: критерий Стьюдента t используется для проверки нулевой гипотезы о равенстве 0 свободного члена регрессионного уравнения. Р – вероятность ошибки для этой нулевой гипотезы; л) beta: стандартизованный коэффициент регрессии – это коэффициент регрессии, который мы получили бы в случае предварительной стандартизации обеих переменных (т.е. при таком преобразовании, когда их средние значения стали бы равны 0, а стандартные отклонения -1). Расчет beta позволяет оценить, в какой степени значения зависимой переменной определяются значениями независимой переменной. Beta может оказаться особенно полезным показателем при включении в анализ нескольких
Ру ко пи сь

65 независимых переменных, выражающихся в разных единицах измерения – в таком случае коэффициент отражал бы удельный вклад каждой из этих переменных в вариацию зависимой переменной. При наличии одной независимой переменной коэффициент beta идентичен Multiple R.
Рисунок
7.2.
Окно предварительных результатов регрессионного анализа.

Нажать кнопку Summary: Regression results (Результаты регрессионного анализа). Появится таблица со следующими результатами анализа (рис. 7.3): а) Beta: стандартизованный коэффициент регрессии; б) Std. err. of beta: стандартная ошибка стандартизованного коэффициента регрессии; в) В: один из самых важных столбцов в этой таблице, поскольку именно он содержит искомые значения свободного члена регрессионного уравнения (в строке
Intercept) и коэффициента регрессии (нижняя строка таблицы); г) Std. err. of B: стандартные ошибки коэффициентов уравнения; д) t(df): значения t-критерия Стьюдента, который используется для проверки гипотезы о равенстве обоих коэффициентов уравнения 0; е) p-level: вероятность ошибки для нулевой гипотезы о равенстве коэффициентов уравнения нулю.
Ру ко пи сь

66
Рисунок 7.3. Результаты регрессионного анализа.
Из рис. 7.3 видно, что оба коэффициента регрессии статистически значимо отличаются от 0 (P << 0,001) и что в целом построенная регрессионная модель отлично описывает связь между возрастом людей и систолическим давлением крови
(R
2
= 98%). Само же рассчитанное уравнение мы можем записать следующим образом:
Н = 1,298

А + 69,590, где Н – давление, А – возраст человека.
Важной частью регрессионного анализа является т.н. анализ
остатков (остатки представляют собой разности между наблюдаемыми значениями зависимой переменной и теми ее значениями, которые предсказываются регрессионной моделью).
Он запускается путем нажатия кнопки Perform residual analysis
(Выполнить анализ остатков) на закладке Residuals / Assumptions
/ Predictions (Остатки / Условия / Предсказания) (рис. 7.2, 7.4).
Рисунок 7.
4.
Подмодуль анализа остатков модуля множественного регрессионного анализа
Ру ко пи сь

67
Первое, что нужно проверить в отношении остатков – это
нормальность их распределения. Для этого на закладке Quick подмодуля анализа остатков (рис. 7.4) можно нажать кнопку
Normal plot of residuals, чтобы построить график нормальных вероятностей (см. разд. 3.4). Если точки на этом графике достаточно тесно укладываются вдоль теоретически ожидаемой прямой, то можно заключить, что остатки распределяются нормально (рис. 7.5). Иначе линейная регрессионная модель для анализируемых переменных будет неприменима (в ряде случаев, однако, помогает трансформация данных, см. ниже).
Рисунок 7.5.
Результат проверки нормальности распределения остатков с помощью графика нормальных вероятностей.
Второе условие в отношении остатков состоит в том, что их
дисперсия должна оставаться неизменной во всем диапазоне значений анализируемых переменных. Для проверки этого условия на закладке Scatterplots (Диаграммы рассеяния)
(рис. 7.4) можно нажать кнопку Predicted vs. residuals, чтобы построить график зависимости значений остатков от предсказываемых моделью значений зависимой переменной.
Если проверяемое условие выполняется, то точки на этом графике будут располагаться хаотично, не проявляя никакой закономерности (рис. 7.6). Если же в расположении точек имеется тенденция (разброс увеличивается слева направо, точки тесно укладываются вдоль прямой, и т.п.), линейный регрессионный анализ также неприменим (однако и в этом случае может помочь трансформация исходных данных, см. ниже).
Ру ко пи сь

68
В рассмотренном примере оба условия в отношении остатков выполняются, что еще раз подтверждает адекватность рассчитанной регрессионной модели для описания связи между артериальным давлением и возрастом людей.
Рисунок 7.
6.
Результат проверки однородности дисперсии остатков
7.2. Трансформация нелинейно связанных признаков
Многие биологические признаки проявляют нелинейный характер связи. Например, размеры тела и интенсивность метаболических процессов имеют степенную или экспоненциальную зависимость. Как же быть, если встает задача по расчету уравнения зависимости между подобными переменными? Иногда в таких случаях помогает определенная трансформация исходных данных, которая позволяет перевести их в другую шкалу измерения и тем самым «выровнять» нелинейную зависимость между признаками.
На рис. 7.7 приведены данные об интенсивности дыхания рачков Daphnia magna разных размеров. Необходимо рассчитать уравнение, описывающее связь между этими двумя признаками.
Ру ко пи сь

69
Рисунок 7.7.
Пример двух нелинейно связанных биологических признаков.
Характер связи между двумя переменными можно проверить еще до запуска модуля регрессионного анализа. Для этого достаточно построить диаграмму рассеяния (Graphs >
Scatterplots), подобную приведенной на рис. 7.8. Из этого рисунка видно, что связь между размером дафний и интенсивностью потребления ими кислорода далека от линейной и больше напоминает степенную зависимость вида y = ax
b
Линейный регрессионный анализ здесь неприменим. Однако степенные и экспоненциальные зависимости обычно легко можно привести к линейным путем логарифмирования значений одного или (чаще) обоих анализируемых признаков. Такую трансформацию в программе STATISTICA выполнить очень просто. Еще в главе 2 говорилось о том, что при подготовке данных к анализу в окне настройки свойств переменных последним можно присваивать т.н. длинные имена (Long name) в виде формул (разд. 2.1).
Рисунок 7.8.
Визуальная оценка характера связи между двумя признаками при помощи диаграммы рассеяния.
Ру ко пи сь

70
Прологарифмируем столбец 1, содержащий значения длины тела дафний (рис. 7.7). Для этого воспользуемся столбцом 3, который следует за данными по интенсивности дыхания.
Кликнув два раза по его заголовку, мы попадем в окно настроек свойств переменной. В поле Long name необходимо ввести формулу =log10(v1), где v1 – это столбец с данными о длине рачков. В поле Name введем короткое имя переменной, например, «Log L» (рис. 7.9).
После нажатия на кнопку
ОК появится небольшая панель с надписью «Expression OK.
Recalculate
the
variable
now?» (Формула введена правильно.
Пересчитать значения переменной?).
Нажимаем
Yes.
В результате в третьем столбце таблицы с данными появятся пересчитанные значения первого столбца.
Аналогичную операцию логарифмирования (рис. 7.10) следует выполнить и для столбца с данными по интенсивности дыхания. Для этого можно воспользоваться 4-м столбцом таблицы и в качестве его длинного имени ввести формулу
=log10(v2). Если теперь мы построим диаграмму рассеяния для прологарифмированных значений анализируемых признаков, то увидим, что точки гораздо теснее укладываются вдоль прямой линии и мы можем применить обычный регрессионный анализ для нахождения зависимости между признаками (рис. 7.11).
Регрессионное уравнение для прологарифмированых переменных запишется в виде log y = b

log x + log a.
Рисунок 7.9. Введение формулы
=log10(v1) в поле длинного имени переменной
Ру ко пи сь

71
Рисунок 7.
10.
Результат логарифмирования первого и второго столбцов в таблице с данными.
Рисунок 7.
11.
Визуальная оценка характера связи между двумя признаками после их логарифмирования.
Необходимо отметить, что процедура трансформации исходных данных часто применяется не только для
«выравнивания» нелинейных связей между признаками. Часто логарифмирование или иные распространенные способы трансформации позволяют привести асимметрично распределенные данные к нормальному распределению, а также добиться однородности дисперсии в группах, подлежащих анализу с использованием параметрических методов. Подробнее о способах трансформации можно узнать в книгах Zar (1999) и
Sokal and Rohlf (2002).
Ру ко пи сь

72
7.3. Оценка коэффициентов уравнения нелинейной
зависимости
Трансформация данных не всегда позволяет привести зависимость между двумя признаками к линейной форме. Кроме того, научный интерес может представлять уравнение именно нелинейной связи. В программе STATISTICA можно рассчитать уравнение зависимости практически любого функционального вида. Для этого служит специальный модуль Nonlinear
estimations (Нелинейные оценивания) (Statistics > Advanced
Linear/Nonlinear models > Nonlinear estimations, либо кнопка на дополнительной панели инструментов). Применим этот анализ к приведенным выше данным о связи между интенсивностью дыхания дафний и их размерами (рис. 7.7).
Проверим, имеется ли между полученными данными степенная зависимость вида y = ax
b
В списке опций модуля
Nonlinear
estimations выберем User specified
regression, least squares
(Заданная пользователем регрессия, метод наименьших квадратов)
(рис.
7.12).
В появившемся в результате этого окне необходимо нажать кнопку
Function to be estimated (Оцениваемая функция) и затем ввести формулу v2=a*v1^b (рис. 7.13).
После последовательного нажатия на кнопки ОК > ОК откроется диалоговое окно, в котором можно выбрать алгоритм расчета коэффициентов уравнения, получить параметры описательной статистики для каждой из переменных (закладка
Review), и т.п. Мы оставим все настройки без изменений и нажмем кнопку ОК. Откроется новое окно (рис. 7.13), в котором можно выполнить анализ остатков (закладка Residuals), проследить последовательность того, как программа рассчитывала коэффициенты уравнения (кнопка Iteration
history), получить параметры описательной статистики, и т.д.
Рисунок
7.12.
Окно модуля
Nonlinear
estimations.
Ру ко пи сь

73
Мы просто нажмем на кнопку Summary: Parameters & standard
errors (Результат: Параметры и их стандартные ошибки), чтобы увидеть коэффициенты уравнения.
Рисунок
7.13.
Окно выбора результатов нелинейного регрессионного анализа.
Рисунок
7.12.
Окно модуля
Nonlinear
estimations.
Ру ко пи сь

74
Как следует из рис. 7.14, оба искомых коэффициента (столбец
Estimate) оказались высоко значимыми (Р < 0,001; см. столбец p-
level), т.е. мы не ошиблись с выбором именно степенного уравнения для описания связи между длиной тела дафний и интенсивностью их дыхания. Само же это уравнение можно записать в виде: R = 0,3128

L
4,6276
Рисунок 7.14. Результат оценки коэффициентов уравнения степенной зависимости между двумя признаками.
Ру ко пи сь

75
Список использованных источников
Гланц С. Медико-биологическая статистика. Пер. с англ. под ред. Н. Е. Бузикашвили, Д. В. Самойлова – М.: Практика,
1999. – 460 с.
Боровиков В. П. Популярное введение в программу
STATISTICA. – М.: Компьютер Пресс, 1998. – 267 с.
Боровиков В. П., Ивченко Г. И. Прогнозирование в системе
STATISTICA в среде Windows. Основы теории и интенсивная практика на компьютере: Учебное пособие. – М.: Финансы и статистика, 2000. – 384 с.
Боровиков В. STATISTICA. Искусство анализа данных на компьютере: Для профессионалов. – Спб: Питер, 2003. –
688 с.
Реброва О. Ю. Статистический анализ медицинских данных.
Применение пакета прикладных программ STATISTICA. –
М.: МедиаСфера, 2003. – 312 с.
Леонов В. П. Ошибки статистического анализа биомедицинских данных. Международный журнал медицинской практики.
2007. – №2. – С. 19-13.
Sokal R. R., Rohlf F. J. Biometry: the principles and practice of statistics in biological research. 3rd edition. New York, W. H.
Freeman, 2005 – 887 p.
Zar H. H. Biostatistical analysis. 4th edition. New York, Prentice
Hall, 1999. – 663 p.
Ру ко пи сь

76
Предметный указатель
Анализ апостериорный
47
Регрессии коэффициент
62
Ассоциации коэффициент
60 стандартизованный
64
Гистограмма
15
Регрессия
Данных трансформация
68 линейная
18
Детерминации коэффициент
64 нелинейная
72
Диаграмма
Ряд вариационный
10 диапазонов
21
Свободный член уравне- размахов
23 ния регрессионного
62 круговая
26
Стьюдента t-тест для
Дисперсионный анализ зависимых выборок
38 однофакторный
43 независимых выборок
33 двухфакторный
48 одной выборки
41
Крускала-Уоллиса
52
Таблица четырехпольная 60
Фридмана
50
Тьюки тест
47
Кендалла коэффициент
51
Уилкоксона тест
39
Колмогорова-Смирнова тест
30
Фишера F-тест
36, 64
Коэффициент корреляции
Шапиро-Уилка тест
31
Пирсона
55
Спирмена
59
Критерий

2 30, 62
Левена тест
45
Манна-Уитни тест
36
Нормальных вероятностей график
32
Ньюмена-Кейлса тест
47
Описательной статистики параметры
18
Остатков анализ
66
Переменная группирующая
34 зависимая
34
Распределение нормальное
28
Распределения подгонка
28 полигон
8
Ру ко пи сь

Сергей Эдуардович Мастицкий, канд. биол. наук
Методическое пособие по использованию программы STATISTICA
при обработке данных биологических исследований
Редактор Адамович Б. В.
Технический редактор Довгалева И. Н.
Отпечатано с макета, предоставленного автором
Издатель
РУП «Институт рыбного хозяйства»
РУП «НПЦ НАН Беларуси по животноводству»
ЛИ № 02330.0133413 от 17.11.2009 г.
220024, г. Минск ул. Стебенева, д. 22, к. 19 – 20
Тираж ____ экз.
Ру ко пи сь

1   2   3   4