Регрессионный анализ: в пакете Statistica и MS Exel

Размещено на http://www.allbest.ru/

Кафедра «Информатика и программное обеспечение»

Курсовая работа по компьютерному моделированию

«Регрессионный анализ: в пакете STATISTICA и MS Exel»

Вариант №11

Выполнила студентка группы 09-СЦ

Петрякова Екатерина

Проверил доц. каф. «ИиПО»

Шалимов П.Ю.

Брянск 2012 г.



Введение

В условиях рыночной конкуренции процесс подготовки и принятия решений менеджерами компаний должен включать тщательный анализ имеющихся данных, базирующийся на методах математической статистики. В этой связи существенную помощь в получении необходимой информации могут оказать современные информационные технологии интеллектуального и статистического анализа данных. Оценка кредитных и страховых рисков, прогнозирование тенденций на финансовых рынках, оценка объектов недвижимости, построение профилей потенциальных покупателей определенного товара, анализ продуктовой корзины и так далее.

Системы интеллектуального анализа предназначены для автоматизированного поиска ранее неизвестных закономерностей в имеющихся в распоряжении менеджера данных с последующим использованием полученной информации для подготовки решений. Помимо статистических методов базовыми инструментами анализа в таких системах являются нейронные сети, деревья решений и индукция правил. Однако несмотря на то, что в последние годы рынок программных продуктов этого типа активно развивается, они все еще недоступны по цене предприятиям среднего и малого бизнеса. В то же время компаниям такого размера, как правило, не требуется столь мощный аналитический инструментарий, предлагаемый этими системами.

Более доступными средствами анализа данных на сегодняшний день являются статистические программные продукты (СПП). В мировой практике компьютерные системы статистического анализа и обработки данных широко применяются как в исследовательской работе в области экономики, так и в практической деятельности аналитических, маркетинговых и плановых отделов банков, страховых компаний, производственных и торговых фирм. В последние годы заметно возрос спрос на СПП и в нашей стране.

СПП позволяют решить широкий спектр задач «разведочного» анализа данных, статистического исследования зависимостей, планирования экспериментов, анализа временных рядов, анализа данных нечисловой природы и т.д. Настоящие методические разработки посвящены вопросам корреляционно-регрессионного анализа статистических связей с использованием одного из самых популярных в России статистических программных продуктов - пакета STATISTICA, функционирующего в среде Window



Общее описание программы Statistica

Пакет STATISTICA разработан фирмой StatSoft (США). Первоначально он входил в качестве модуля в состав самых популярных в то время электронных таблиц Lotus 1-2-3. Как самостоятельный продукт пакет впервые заявил о себе в 1991 г. Последняя версия продукта совместима с Windows Vista, в ней поддерживаются графический интерфейс пользователя и динамический обмен данными. Благодаря этому пакет может работать в сочетании с другими Windows-приложениями. В последние версии включен также язык программирования Statistica-BASIC, позволяющий расширять возможности пакета в соответствии с потребностями пользователя.

Системные требования. Платформа Macintosh или Windows, процессор 386 и выше, 4 Мбайт ОЗУ (рекомендуется 8 Мбайт), дисковое пространство - 18 Мбайт.

Возможности. STATISTICA позволяет проводить исчерпывающий, всесторонний анализ данных, представлять результаты анализа в виде таблиц и графиков, автоматически создавать отчеты о проделанной работе. С помощью удобной системы подсказок можно обучаться не только работе с самим пакетом, но и современным методам статистического анализа.

Файлы данных. Данные в системе STATISTICA организованы в виде электронных таблиц, как в привычной для пользователей программе Excel. Файл содержит наблюдения и переменные (см. рис.1.1). Наблюдения можно рассматривать как эквивалент записей в базах данных (или строк электронной таблицы), а переменные - как эквивалент полей (столбцов электронной таблицы). Каждое наблюдение состоит из набора значений переменной.

В пакете STATISTICA все операции, включая копирование, перетаскивание и автоматическое заполнение ячеек, производятся так же, как в популярных электронных таблицах. При нажатии правой кнопки мыши появляется всплывающее меню, где точно так же предлагается перечень операций, которые можно выполнить над выделенным объектом.

Общее число переменных в стандартном файле STATISTICA может быть до 4092, количество наблюдений ограничено лишь объемом жесткого диска. В системе имеется также менеджер мегафайлов (доступный из модуля Управление данными), который позволяет работать с очень большими файлами, содержащими до 32000 переменных.

Система STATISTICA предоставляет всесторонние возможности по импорту и экспорту данных, в том числе и из таблиц Excel.



Архитектура и интерфейс системы. Система STATISTICA состоит из отдельных модулей, каждый из которых является полноценным Windows-приложением. Система постоянно обновляется, в нее вводятся новые модули и вычислительные процедуры.

Быстро переключаться из одного модуля в другой можно: а) щелкая мышью на значках модулей на рабочем столе; б) активизируя соответствующее окно приложения (если оно уже было открыто) или в) выбирая модули в диалоговом окне Переключатель модулей, причем эту операцию можно настроить так, чтобы было удобно обращаться к модулям, которые используются чаще всего.

Интерфейс системы может быть настроен на конкретный пользовательский проект: можно задать отображение стольких диалоговых окон, таблиц результатов, графиков, сколько в данном случае необходимо.

Методы анализа. Система включает следующие модули: Основные статистики и таблицы. Исчерпывающий набор описательных статистик, таблицы сопряженности, таблицы флагов и заголовков, кросстабуляция многомерных откликов и многомерных дихотомий, вычисление корреляционных матриц, обработка пропущенных данных, t-критерии для зависимых и независимых выборок, критерии однородности дисперсии, однофакторный дисперсионный анализ.

Непараметрическая статистика. Непараметрические критерии, ранговые корреляции, подгонка распределений.

Множественная регрессия. Пошаговая регрессия с включением и исключением предикторов, нелинейная регрессия, ридж-регрессия, построение прогнозов, всесторонний анализ остатков, вычисление прогнозов и доверительных интервалов для прогнозируемых значений (можно анализировать очень большие модели, до 500 переменных).

Нелинейное оценивание. Подгонка любой задаваемой пользователем функции, задаваемая пользователем функция потерь, разрывная регрессия.

Временные ряды и прогнозирование. Широкий выбор моделей анализа временных рядов, включая модели АРПСС - авторегрессии и проинтегрированного скользящего среднего, модели с интервенцией, анализ распределенных лагов, спектральный анализ чрезвычайно длинных временных рядов, преобразования рядов, включая быстрое преобразование Фурье и многие другие процедуры углубленного анализа.

Кластерный анализ. Широкий набор процедур кластерного анализа, включая иерархическое объединение, двухвходовое объединение, метод к-средних; алгоритмы оптимизированы для анализа очень больших проектов, например, методом к-средних можно анализировать 400000 наблюдений с 10 переменными.

Факторный анализ. Процедуры факторного анализа и анализа главных компонент, ортогональные и косоугольные факторы, иерархический анализ косоугольных факторов и др.

Канонический анализ. Вычисление канонических переменных и канонических корней.

Многомерное шкалирование. Анализ расстояний, матриц сходств и различия, диаграмма Шепарда и др.

Деревья классификации. Современные методы построения деревьев классификации с категориальными и порядковыми предикторами и различными функциями потерь.

Анализ соответствий. Современные методы анализа таблиц сопряженности.

Структурное моделирование. Построение структурных моделей, продвинутый факторный анализ.

Надежность и позиционный анализ. Методы построения вопросников, оценка надежности позиций и др.

Дискриминантный анализ. Процедуры всестороннего дискриминантного анализа, разнообразные статистики и графическое представление результатов.

Логлинейный анализ. Всесторонний анализ многовходовых таблиц сопряженности, автоматическое построение лучшей модели.

Анализ выживаемости. Анализ таблиц жизни, оценки Каплана-Мейера, регрессионные модели: Кокса, логнормальная, экспоненциальная, зависящие от времени ковариаты, разнообразные статистики и критерии.

Дисперсионный анализ. Полный набор методов одномерного и многомерного дисперсионного анализа, фиксированные и переменные ковариаты, апостериорные критерии, контрасты, проверка предположений дисперсионного анализа, планы с повторными измерениями, иерархически вложенные планы, планы с пропущенными ячейками и многое другое.

Компоненты дисперсии. Смешанные модели дисперсионного анализа, оценка компонент дисперсии.

Графические возможности. STATISTICA обладает огромными возможностями для построения графиков непосредственно из таблиц исходных данных и таблиц результатов, причем графика и анализ данных тесно интегрированы. Например, если после вычисления корреляционной матрицы у пользователя возникает потребность в графическом представлении корреляционной зависимости, то достаточно поместить курсор на соответствующий коэффициент корреляции, нажать правую кнопку мыши и в появившемся меню выбрать пункт Быстрые статистические графики, а затем одну из диаграмм рассеяния (см. рис. 1.3). На экране появится требуемый график. В разных модулях системы имеются свои специальные графики, учитывающие особенности получаемых в них результатов.

Один из способов построения графиков в системе STATISTICA - использовать окно Галерея графиков.

Регрессионный анализ в STATISTICA

Пример использует файл данных Poverty. sta. Открыть его можно с помощью меню Файл, выбрав команду Открыть; наиболее вероятно, что этот файл данных находится в директории /Examples/Datasets. Данные основаны на сравнении результатов переписи 1960 и 1970 годов для случайной выборки из 30 округов. Имена округов введены в качестве идентификаторов наблюдений.

Следующая информация по каждой переменной приводится в электронной таблице Редактор спецификаций переменных (открывающийся при выборе команды Все спецификации переменных в меню Данные).

statistica архитектура интерфейс регрессионный



Цель исследования. Мы проанализируем корреляты бедности (т.е. предикторы, "сильно" коррелирующие с процентом семей, живущих за чертой бедности). Таким образом, будем рассматривать переменную 3 (Pt_Poor), как зависимую или критериальную переменную, а все остальные переменные - в качестве независимых переменных или предикторов.

Начальный анализ. Когда вы выбираете команду Множественной регрессии с помощью меню Анализ, открывается стартовая панель модуля Множественная регрессия. Вы можете задать регрессионное уравнение щелчком мыши по кнопке Переменные во вкладке Быстрый стартовой панели модуля Множественная регрессия. В появившемся окне Выбора переменных выберите Pt_Poor в качестве зависимой переменной, а все остальные переменные набора данных - в качестве независимых. Во вкладке Дополнительно отметьте также опции Показывать описательные статистики, корр. матрицы.



Теперь нажмите OK этого диалогового окна, после чего откроется диалоговое окно Просмотр описательных статистик. Здесь вы можете просмотреть средние и стандартные отклонения, корреляции и ковариации между переменными. Отметим, что это диалоговое окно доступно практически из всех последующих окон модуля Множественная регрессия, так что вы всегда сможете вернуться назад, чтобы посмотреть на описательные статистики определенных переменных.

Распределение переменных. Сначала изучим распределение зависимой переменной Pt_Poor по округам. Нажмите Средние и стд.отклонения для показа таблицы результатов.



Выберите Гистограммы в меню Графика, чтобы построить гистограмму для переменной Pt_Poor (во вкладке Дополнительно диалогового окна 2М Гистограммы установите опцию Число категорий в строке Категории равной 16). Как видно ниже, распределение этой переменной чем-то отличается от нормального распределения. Коэффициенты корреляции могут оказаться существенно завышенными или заниженными при наличии в выборке существенных выбросов. Однако, хотя два округа (две самые правые колонки) имеют более высокий процент семей, проживающих за чертой бедности, чем это можно было бы ожидать в соответствии с нормальным распределением, они все еще, как нам кажется, находятся "в рамках допустимого".

Это решение является в определенной степени субъективным; эмпирическое правило состоит в том, что беспокойство требуется проявлять только тогда, когда наблюдение (или наблюдения) лежат вне интервала, заданного средним значением ± 3 стандартных отклонения. В этом случае будет разумно повторить критическую (с точки зрения влияния выбросов) часть анализа с выбросами и без них, с тем, чтобы удостовериться в отсутствии их влияния на характер взаимных корреляций. Вы также можете просмотреть распределение этой переменной, щелкнув мышкой на кнопке Диаграмма размаха во вкладке Дополнительно диалогового окна Просмотр описательных статистик, выбрав переменную Pt_Poor. Далее, выберите опцию Медиана/квартили/размах в диалоговом окне Диаграммы размаха и нажмите кнопку OK.

(Заметим, что определенный метод вычисления медианы и квартилей может быть выбран для всей "системы" в диалоговом окне Параметры в меню Сервис.)

Диаграммы рассеяния. Если имеются априорные гипотезы о связи между определенными переменными, на этом этапе может оказаться полезным вывести соответствующую диаграмму рассеяния. Например, посмотрим на связь между изменением популяции и процентом семей, проживающих за чертой бедности. Было бы естественно ожидать, что бедность приводит к миграции населения; таким образом, должна наблюдаться отрицательная корреляция между процентом семей, проживающих за чертой бедности, и изменением популяции.

Возвратимся к диалоговому окну Просмотр описательных статистик и щелкнем мышкой по кнопке Корреляции во вкладке Быстрый для отображения таблицы результатов с корреляционной матрицей.

Корреляции между переменными могут быть отображены также и на матричной диаграмме рассеяния. Матричная диаграмма рассеяния для выбранных переменных может быть получена щелчком мыши по кнопке Матричный график корреляций во вкладке Дополнительно диалогового окна Просмотр описательных статистик и последующим выбором интересующих переменных.

Задание множественной регрессии. Для выполнения регрессионного анализа от вас требуется только щелкнуть по кнопке OK в диалоговом окне Просмотр описательных статистик и перейти в окно Результаты множественной регрессии. Стандартный регрессионный анализ (со свободным членом) будет выполнен автоматически.

Просмотр результатов. Ниже изображено диалоговое окно Результаты множественной регрессии. Общее уравнение множественной регрессии высоко значимо. Таким образом, зная значения независимых переменных, можно "предсказать" предиктор, связанный с бедностью, лучше, чем угадывая его чисто случайно.



Регрессионные коэффициенты. Чтобы узнать, какие из независимых переменных дают больший вклад в предсказание предиктора, связанного с бедностью, изучим регрессионные (или B) коэффициенты. Щелкните мышкой по кнопке Итоговая таблица регрессии во вкладке Быстрый диалогового окна Результаты множественной регрессии для вывода таблицы результатов с этими коэффициентами.

Эта таблица показывает стандартизованные регрессионные коэффициенты (Бета) и обычные регрессионные коэффициенты (B). Бета-коэффициенты - это коэффициенты, которые получатся, если предварительно стандартизовать все переменные к среднему 0 и стандартному отклонению 1.

Таким образом, величина этих Бета-коэффициентов позволяет сравнивать относительный вклад каждой независимой переменной в предсказание зависимой переменной. Как видно из таблицы результатов, изображенной выше, переменные Pop_Chng, Pt_Rural и N_Empld являются наиболее важными предикторами для бедности; из них только первые два статистически значимы. Регрессионный коэффициент для Pop_Chng отрицателен; т.е. чем меньше прирост популяция, тем большее число семей живут ниже уровня бедности в соответствующем округе. Вклад в регрессию для Pt_Rural положителен; т.е. чем больше процент сельского населения, тем выше уровень бедности.

Частные корреляции. Другой путь изучения вкладов каждой независимой переменной в предсказание зависимой переменной состоит в вычислении частных и получастных корреляций (щелкните на кнопке Частные корреляции во вкладке Дополнительно диалогового окна Результаты множественной регрессии). Частные корреляции являются корреляциями между соответствующей независимой переменной и зависимой переменной, скорректированными относительно других переменных. Таким образом, это корреляция между остатками после корректировки относительно независимых переменных. Частная корреляция представляет самостоятельный вклад соответствующей независимой переменной в предсказание зависимой переменной.



Получастные корреляция являются корреляциями между соответствующей независимой переменной, скорректированной относительно других переменных, и исходной (нескорректированной) зависимой переменной. Таким образом, получастная корреляция является корреляцией соответствующей независимой переменной после корректировки относительно других переменных, и нескорректированными исходными значениями зависимой переменной. Иначе говоря, квадрат получастной корреляции является показателем процента Общей дисперсии, самостоятельно объясняемой соответствующей независимой переменной, в то время как квадрат частной корреляции является показателем процента остаточной дисперсии, учитываемой после корректировки зависимой переменной относительно независимых переменных.

В этом примере частные и получастные корреляции имеют близкие значения. Однако иногда их величины могут различаться значительно (получастная корреляция всегда меньше). Если получастная корреляция очень мала, в то время как частная корреляция относительно велика, то соответствующая переменная может иметь самостоятельную "часть" в объяснении изменчивости зависимой переменной (т.е. "часть", которая не объясняется другими переменными). Однако в смысле практической значимости, эта часть может быть мала, и представлять только небольшую долю от общей изменчивости.

Анализ остатков. После подбора уравнения регрессии всегда полезно изучить полученные предсказанные значения и остатки. Например, экстремальные выбросы могут существенно сместить результаты и привести к ошибочным заключениям. Во вкладке Остатки/предложения/наблюдаемые нажмите кнопку Анализ остатков для перехода в соответствующее диалоговое окно.

Построчный график остатков. Эта опция диалогового окна предоставляет вам возможность выбрать один из возможных типов остатков для построения построчного графика. Обычно, следует изучить характер исходных (нестандартизованных) или стандартизованных остатков для идентификации экстремальных наблюдений. В нашем примере, выберите вкладку Остатки и нажмите кнопку Построчные графики остатков; по умолчанию будет построен график исходных остатков; однако, вы можете изменить тип остатков в соответствующем поле.

Масштаб, используемый в построчном графике в самой левой колонке, задается в терминах сигмы, т.е. стандартного отклонения остатков. Если один или несколько наблюдений попадают за границы ± 3 * сигма, то, вероятно, следует исключить соответствующие наблюдения (это легко достигается с помощью условий отбора) и выполнить анализ снова, чтобы убедиться в отсутствии смещения ключевых результатов, вызванного этими выбросами в данных.

Построчный график выбросов. Быстрый способ идентификации выбросов состоит в использовании опции График выбросов во вкладке Выбросы. Вы можете выбрать просмотр всех стандартных остатков, выпадающих за границы ± 2-5 сигма, или просмотр 100 наиболее выделяющихся наблюдений, выбранных в поле Тип выброса во вкладке Выбросы. При использовании опции Стандартный остаток (>2*сигма) в нашем примере какие-либо выбросы не заметны.

Расстояния Махаланобиса. Большинство учебников по статистике отводят определенное место для обсуждения темы выбросов и остатков для зависимой переменной. Однако роль выбросов для набора независимых переменных часто упускается из виду. Со стороны независимых переменных, имеется список переменных, участвующий с различными весами (регрессионные коэффициенты) в предсказании зависимой переменной. Независимые переменные можно представить себе в виде точек некоторого многомерного пространства, в котором может располагаться каждое наблюдение. Например, если вы имеете две независимые переменные с равными регрессионными коэффициентами, то можно построить диаграмму рассеяния этих двух переменных и расположить каждое наблюдение на этом графике. Вы можете затем нарисовать точку средних значений обоих переменных и вычислить расстояния от каждого наблюдения до этого среднего (называемого теперь центроидом) в этом двумерном пространстве; в этом состоит концептуальная идея, стоящая за вычислением расстояний Махаланобиса. Теперь посмотрим на эти расстояния, отсортированные по величине, с целью идентификации экстремальных наблюдений по независимым переменным. В поле Тип выбросов отметьте опцию расстояний Махаланобиса и нажмите кнопку Построчный график выбросов. Полученный график показывает расстояния Махаланобиса, отсортированные в порядке убывания.



Отметим, что округ Shelby оказывается в чем-то выделяющимся по сравнению с другими округами на графике. Если посмотреть на исходные данные, можно обнаружить, что в действительности округ Shelby - значительно больший по размеру округ с большим числом людей, занятых сельским хозяйством (переменная N_Empld), и намного более весомой популяцией афроамериканцев. Вероятно, было бы разумно выражать эти числа в процентах, а не в абсолютных значениях, в этом случае расстояние Махаланобиса округа Shelby от других округов в данном примере не было бы столь велико. Однако мы получили, что округ Shelby оказывается явным выбросом.

Удаленные остатки. Другой очень важной статистикой, позволяющей оценить масштаб проблемы выбросов, являются удаленные остатки. Они определяются как стандартизованные остатки для соответствующих наблюдений, которые получились бы при исключении соответствующих наблюдений из анализа. Напомним, что процедура множественной регрессии подбирает прямую линию для выражения взаимосвязи между зависимой и независимыми переменными. Если одно из наблюдений является очевидным выбросом (как округ Shelby в этих данных), то линия регрессии стремиться "приблизится" к этому выбросу, с тем чтобы учесть его, насколько это возможно. В результате, при исключении соответствующего наблюдения, возникнет совершенно другая линия регрессии (и B-коэффициенты). Поэтому, если удаленный остаток сильно отличается от стандартизованного остатка, у вас есть основания полагать, что результаты регрессионного анализа существенно смещены соответствующим наблюдением. В данном примере удаленный остаток для округа Shelby является выбросом, который существенно влияет на анализ. Вы можете построить диаграмму рассеяния остатков относительно удаленных остатков с помощью опции Остатки и удал. остатки во вкладке Диаграммы рассеяния. Ниже на диаграмме рассеяния явно заметен выброс.



STATISTICA предоставляет интерактивное средство для удаления выбросов (Кисть на панели инструментов для графики;). Позволяющее экспериментировать с удалением выбросов и позволяющее сразу же увидеть их влияние на линию регрессии. Когда это средство активизировано, курсор меняется на крестик и рядом с графиком высвечивается диалоговое окно Закрашивание. Вы можете (временно) интерактивно исключать отдельные точки данных из графика, отметив (1) опцию Автообновление и (2) поле Выключить из блока Операция; а затем щелкнув мышкой на точке, которую нужно удалить, совместив ее с крестиком курсора.



Отметим, что удаленные точки можно "возвратить", щелкнув по кнопке Отменить все в диалоговом окне Закрашивание.

Нормальные вероятностные графики. Из окна Анализ остатков пользователь получает большому количеству дополнительных графиков. Большинство этих графиков более или менее просто интерпретируются. Тем не менее, здесь мы дадим интерпретацию нормального вероятностного графика, поскольку он наиболее часто используется при анализе справедливости предположений регрессии.

Как было замечено ранее, множественная линейная регрессия предполагает линейную связь между переменными в уравнении, и нормальным распределением остатков. Если эти предположения нарушаются, окончательные заключения могут оказаться неточными. Нормальный вероятностный график остатков наглядно показывает наличие или отсутствие больших отклонений от высказанных предположений. Нажмите кнопку Нормальный во вкладке Вероятностные графики для построения этого графика.

Этот график строится следующим образом. Сначала остатки регрессии ранжируются. Для этих упорядоченных остатков вычисляются z-значения (т.е. стандартные значения нормального распределения), исходя из предположения, что данные имеют нормальное распределение. Эти z-значения откладываются по оси Y на графике.

Если наблюдаемые остатки (отложенные по оси X) нормально распределены, то все значения будут располагаться на графике вблизи прямой линии; на данном графике все точки лежат очень близко к прямой линии. Если остатки не распределены нормально, то они будут отклоняться от линии. На этом графике также могут стать заметны выбросы.

Если имеющаяся модель плохо согласуется с данными, и данные на графике, похоже, образуют некоторую структуру (например, облако наблюдений принимает S-образную форму) около линии регрессии, то, возможно, будет полезным применение некоторого преобразования зависимой переменной (например, логарифмирование с целью "поджать" хвост распределения, и т.п.; см. также краткое обсуждение преобразований Бокса-Кокса и Бокса-Тидвелла в разделе Примечания и техническая информация). Однако слишком часто исследователи просто принимают свои данные, не пытаясь присмотреться к их структуре или проверить их на соответствие своим предположениям, что приводит к ошибочным заключениям. По этой причине одной из основных задач, стоявшей перед разработчиками пользовательского интерфейса модуля Множественной регрессии было максимально возможное упрощение (графического) анализа остатков.

Многомерный анализ в SPSS

Многомерный дисперсионный анализ применяется тогда, когда в одном дисперсионном анализе необходимо одновременно исследовать влияние факторов и возможных ковариации (независимых переменных) на несколько зависимых переменных. Такой многомерный дисперсионный анализ следует предпочесть одномерному тогда (и только тогда), когда зависимые переменные не являются независимыми друг от друга, а наоборот коррелируют между собой.

Если Вы откроете данные из исследования гипертонии (файл hyper.sav) и рассчитаете корреляции между исходными значениями систолического и диастолического давлений, то вы заметите, что эти переменные, хотя и не сильно, но всегда значимо коррелируют между собой.

Если Вы хотите узнать, значимо ли отличаются перечисленные переменные для четырёх заданных возрастных групп (переменная ak), то вместо четырёх отдельных одномерных однофакторных дисперсионных анализов Вы должны провести один многомерный однофакторный анализ.

· Откройте файл hyper.sav.

· Выберите в меню Analyze (Анализ) General Linear Model (Общая линейная модель) Multivariate... (Многомерная)

Откроется диалоговое окно Multivariate (Многомерная) (см. рис.).

Поместите переменные rs0, rrd0, cho10, и bz0 в поле. предусмотренное для зависимых переменных, а переменной ak присвойте статус постоянного фактора.

Под выключателями Contrasts... (Контрасты), Model... (Модель) и Options... (Опции) Вы найдёте множество разнообразных возможностей для задания контрастов, выбора различных вариантов моделей или организации вывода всевозможных дополнительных результатов расчёта; к примеру, здесь можно активировать тесты проверки дисперсии на однородность.

Оставьте все установки по умолчанию и начните расчёт нажатием ОК.



Рис.: Диалоговое окно Multivariate (Многомерная)

Появятся довольно обширные результаты расчёта. Важным для нас является в первую очередь глобальный многомерный тест на предмет выявления значимых различий "где-нибудь" между возрастными группами:

a. Exact statistic (Точная статистика)

b. The statistic is an upper bound on F that yields a lower bound on the significance level (Статистической характеристикой является верхний придел значения F-распределе-ния, который указывает на нижний предел уровня значимости).

с Design: Intercept+AK (Компоновка: Отрезок + АК)

Multivariate Tests c (Многомерные тесты)

Effect (Эффект )	Value (Значение)	F	Hypo-thesis df (Гипотеза df)	Error df (Ошибка df)	Sig. (Значимость)
Inte-rcept Отре-зок)	Pillai's Trace (След Пиллая)	,996	9252, 061а	4,000	167,000	,000
Wilks' Lambda (Лямбда Уилкса)	,004	9252,061 а	4,000	167,000	,000
Hotelling's Trace (След Хоттелинга)	221,606	9252, 061а	4,000	167,000	,000
Roy's Largest Root 'Максимальный характеристический корень по методу Роя)	221,606	9252,061 а	4,000	167,000	,000
АК	Dillai's Trace (След Пиллая)	,178	2,661	12,00ol	507,00o'	,002
Wilks' Lambda (Лямбда Уилкса)	,827	2,740	12,000	442,132	,001
Hotelling's Trace (След Хоттелинга)	,203	,805	12,000	197,000	,001
Roy's Largest Root (Макси-мальный характеристический корень по методу Роя)	,169	7,159Ь	4,000	167,000	,000

Здесь производится расчёт величин, традиционных для общей линейной модели. Основываясь на критерии "След Пиллая" ("Pillai's Trace"), следует отклонить нулевую гипотезу о том, что между четырьмя возрастными группами не наблюдается различий ни для одной из зависимых переменных (значение р = 0,002).

Для проверки, какие из четырёх зависимых переменных в чем-то различаются между собой, были проведены одномерные тесты. Результаты этих тестов полностью соответствуют результатам отдельного одномерного дисперсионного анализа для каждой зависимой переменной.

Отметим то, что для систолического и диастолического давлений, уровней холестерина и сахара в крови получаются следующие значения вероятности ошибки р: 0,153, 0,002, 0,267 и 0,688 соответственно. Причиной суммарной значимости, поучающейся в результате многомерного теста, являются прежде всего значимые различия для диастолического давления.

Для опытных статистиков, хорошо знакомых с тонкостями многомерных методов, SPSS может предложить избыточное количество разнообразных возможностей в области дисперсионного анализа.

В первую очередь можно использовать разнообразные возможности процедуры MANOVA, доступной отныне только через командный синтаксис. Эта процедура позволяет проводить простой и множественный регрессионный анализ, дискриминантный анализ, канонический анализ, анализ главных компонентов и др. Однако сложность работы с заданием параметров может составить некоторые затруднения для менее опытных пользователей.

Классификация переменных

1. Несколько количественных независимых и одна количественных зависимая переменные

Методы статистической оценки:

Множественная регрессия.

2. Две количественные переменные:

Визуальная оценка связи производится с помощью диаграммы рассеивания



Методы статистической оценки:

Нормальное распределение -

· Простая линейная корреляция Пирсона r.

Ненормальное распределение или ранговая шкала -

· R Спирмена;

· tau Кендалла;

· Коэффициент d Соммера;

· Коэффициент Гамма.

3. Уровневая (или качественная) независимая и количественная зависимая переменные:

Для оценки связи между зависимой и независимой переменной используется группировка данных с помощью категорий. Поэтому в подобных случаях независимая переменная называется группирующей. Группирующая переменная выступает в качестве "фактора" в то время, как зависимая переменная рассматривается как "отклик".

Визуальная оценка связи между фактором и откликом производится с помощью диаграмм размаха (ящичных диаграмм)



Методы статистической оценки:

Нормальное распределение -

· ANOVA (однофакторный дисперсионный анализ - F критерий Фишера).

Ненормальное распределение или ранговая шкала -

· Н-тест Крускала и Уоллиса;

· Медианный тест.

4. Дихотомическая независимая и количественная зависимая переменные:

Для оценки связи между зависимой и независимой переменной используется разделение выборки на две подвыборки с помощью дихотомической группирующей переменной. Группирующая переменная выступает в качестве "фактора" в то время, как зависимая переменная рассматривается как "отклик".

Визуальная оценка связи производится с помощью диаграмм размаха (ящичных диаграмм)



Методы статистической оценки:

Нормальное распределение -

· t-критерий Стьюдента для несвязанных выборок.

Ненормальное распределение или ранговая шкала -

· U Критерий Вилкоксона - Манна-Уитни;

· Критерий серий Уалда-Вольфовица;

· Тест Мозеса.

5.Уровневая (или качественная) независимая и уровневая (или качественная) зависимая переменные:

Визуальная оценка связи производится с помощью анализа таблиц сопряженности и графиков.

Здесь мы имеем дело с многострочными таблицами, где количество строк равно количеству уровней независимой переменной, а количество столбцов - количеству уровней зависимой переменной.



Методы статистической оценки:

· Хи-квадрат Пирсона;

· Коэффициент сопряженности;

· Коэффициенты неопределенности.

6. Дихотомическая независимая и уровневая зависимая переменные:

Визуальная оценка связи производится с помощью анализа таблиц сопряженности и графиков. Здесь мы имеем дело с таблицей, где количество строк всегда равно 2, поскольку независимая переменная дихотомическая, а количество столбцов равно количеству уровней зависимой переменной.



Методы статистической оценки:

· Двухвыборочный критерий Колмогорова-Смирнова.

7. Дихотомическая независимая и дихотомическая зависимая переменные 2Х2:

Визуальная оценка связи производится с помощью анализа таблиц сопряженности 2х2 и графиков.

Здесь мы имеем дело с таблицами, которые обычно обозначаются 2Х2. И количество строк, и количество столбцов в таких таблицах равно двум, поскольку обе переменные дихотомические:



Методы статистической оценки:

· Хи-квадрат Пирсона с поправкой Йетса;

· Точный критерий Фишера;

· Коэффициент Фи (Фи-квадрат);

· Тетрахорическая корреляция или коэффициент ассоциации Пирсона;

Классификация случаев

Эффективная идентификация целевых групп.

Сталкиваетесь ли Вы с необходимостью выделять группы покупателей, наилучшим образом соответствующих Вашим предложениям или программам, чтобы более эффективно направлять рекламные акции? Classification Trees позволяет, используя деревья решений, выделять сегменты и предсказывать, какие группы людей откликнутся на предложения. Четыре мощных алгоритма построения деревьев решений -- CHAID, Исчерпывающий CHAID, Деревья классификации и регрессии и Quest -- позволяют выделять сегменты и выявлять закономерности в данных. Например, можно установить, что состоящие в браке клиенты среднего возраста, которые приносят умеренную прибыль, более склонны откликаться на предложения, направляемые через Интернет.

При помощи Classification Trees можно выявлять, какие группы людей, вероятнее всего предпримут определенные действия, например, кто, вероятнее всего, купит, а кто не купит определенные товары. Поскольку Classification Trees автоматически осуществляет поиск зависимостей в данных, то может оказаться, что Вы обнаружите закономерности, которые не смогли заметить, проводя предварительный (описательный) анализ данных. Деревья решений выводятся в графической форме, что позволяет без лишних усилий увидеть сегменты и закономерности, обнаруженные в данных. Сводная информация о выделенных сегментах, доступная в Classification Trees, позволяет оценить надежность результатов.

Результаты сегментации можно сохранить в базе данных или в файлах данных SPSS с использованием SQL или синтаксиса SPSS. Полученную информацию о принадлежности к группам можно использовать для принятия управленческих решений.

Выделение групп людей в соответствии с их прогнозируемыми действиями.

В некоторых случаях зависимые переменные являются дихотомическими (имеют значения, например, купил и не купил, заплатил и не заплатил). Возможно, Вам необходимо предсказывать вероятности таких событий, как отклик или неотклик на предложение, либо участие или неучастие в программе. Например, компании, предоставляющей коммунальные услуги, может быть необходимо знать, какие предикторы указывают на возможную неоплату коммунальных услуг, чтобы создать специальные планы оплаты коммунальных услуг для потребителей, которые нуждаются в помощи. Процедура бинарной логистической регрессии (в SPSS Regression Models) обеспечивает возможность подбора моделей прогноза для дихотомических зависимых переменных. Бинарная логистическая регрессия предоставляет широкие возможности задания параметров моделей и выбора порядка включения предикторов в модели. Шесть методов шагового включения и исключения переменных позволяют наилучшим образом отбирать переменные для включения в модели. Также можно задавать критерии включения и исключения переменных. Процедурой выдается пошаговый отчет о включении / исключении переменных.

Классификация по нескольким группам.

Если у зависимой переменной более двух категорий, то Мультиноминальная логистическая регрессия (в SPSS Regression Models) поможет Вам точно предсказывать принадлежность к группам. Телекоммуникационная компания, например, может прогнозировать, какие услуги закажет клиент: определитель номера, голосовую почту, удержание вызова или несколько услуг сразу. Если модель предсказывает, что клиент закажет только определитель номера, такого клиента можно включить в прямую рассылку со специальным предложением услуги определитель номера. Это означает, что рекламные ресурсы не будут потрачены впустую на клиентов, которых заведомо не заинтересует предлагаемая услуга.

Прогнозирование порядковых переменных

Если необходимо прогнозировать значения порядковых переменных, например, удовлетворенность клиентов в процедуре. Политомические универсальные модели (PLUM в SPSS Advanced Models) есть все необходимое для построения таких прогнозов. Выбирая различные функции связи, можно подгонять различные модели: порядковую логистическую регрессию, порядковые пробит-модели и порядковые модели Коши. Процедура позволяет сохранить в файле данных все предсказанные вероятности для всех категорий зависимой переменной.

Другие процедуры для идентификации групп:

Логлинейные/логит модели и общий логлинейный анализ(в SPSS Advanced Models) -- анализ частот в ячейках таблиц сопряженности. Например, в исследованиях рынка можно воспользоваться данными о предпочтениях товаров для выявления связей между рекламными акциями и позиционированием товаров на рынке.

Логлинейный анализ для подбора модели (в SPSS Advanced Models) -- позволяет выяснить, между какими категориальными переменными существует связь. Для построения моделей можно применять методы включения или исключения переменных.

Логит-логлинейный анализ (в SPSS Advanced Models) -- анализ связей между категориальными переменными -- зависимыми (откликами) и независимыми (объясняющими).

Пробит анализ (в SPSS Regression Models) -- позволяет анализировать связь между зависимой переменной, в которой записаны доли отклика на некоторые воздействия и независимыми переменными, в которых записаны уровни воздействия.

Категориальная регрессия (в SPSS Categories) -- оцифровка категориальных данных путем присвоения категориям числовых значений и построение оптимального уравнения регрессии для преобразованных данных. Категориальная регрессия может применяться для описания удовлетворенности покупателей в зависимости от простоты совершения покупки, цены и качества товара. Полученное уравнение можно использовать для предсказания удовлетворенности покупателей для любых сочетаний значений независимых переменных.

SPSS Exact Tests -- получение корректных результатов при анализе небольших наборов данных. SPSS Exact Tests применяется в следующих случаях: небольшое количество наблюдений, наличие переменных с большой долей ответов в одной категории, наличие в данных ярко выраженных подгрупп.



Вывод

Таким образом SPSS является комплексной системой анализа данных. SPSS может использовать данные почти из всех типов файлов и генерировать табличные отчёты, графики, рисунки распределений и трендов, описательную статистику и проводить сложные виды статистического анализа». Фактически, под SPSS можно понимать все программные продукты, создаваемые компанией SPSS Inc., но чаще всего SPSS ассоциируется именно со статистическим пакетом -- набором модулей «статистичекого» семейства продуктов.

В начале августа 2009 г. компания SPSS Inc. объявила о переименовании практически всех своих продуктов с добавлением в начало названия аббревиатуры PASW: Predictive Analytics Software (возможный перевод -- программное обеспечение для прогностического анализа). «Нетронутыми» оказались лишь имена некоторых продуктов, таких как Amos или SamplePower. В других семействах заметны более существенные переименования (например, Clementine Base обратился в PASW Modeler).

В официальном заявлении о переименовании говорится, что это сделано для лучшего отражения названиями продуктов SPSS их основного предназначения. В сообществе пользователей распространено мнение о том, что в условиях глобального финансового кризиса SPSS Inc. ищет пути более четкого позиционирования своих продуктов на рынке. Гипотетизируется также, что компания пытается таким образом избавиться от ассоциации с одной из распространённых расшифровок аббревиатуры SPSS -- Statistical Package for the Social Sciences ,ведь круг пользователей этого статпакета ни в коей мере не ограничивается специалистами в области социальных наук.

В целом, в сообществе заметно некоторое сожаление по поводу переименования, и не в последнюю очередь из-за неудобства произношения новой аббревиатуры.

Так или иначе, аббревиатура «SPSS» оказалась недостаточно ёмкой чтобы вместить весь фронт, по которому SPSS Inc. ведёт борьбу за конкурентные преимущества.

Заметим, что «PASW» пришёл только в название программных продуктов SPSS Inc., но не заменил названия самой компании. Тем не менее в SPSS посчитали нужным зарезервировать сайт www.pasw.com (сейчас с него осуществляется редирект на официальный сайт компании www.spss.com).



Решение задачи регрессионного анализа с помощью пакета анализа данных табличного процессора MS Excel

Основные положения.

Для проведения регрессионного анализа и прогнозирования необходимо:

1) построить график исходных данных и попытаться зрительно, приближенно определить характер зависимости;

2) выбрать вид функции регрессии, которая может описывать связь исходных данных;

3) определить численные коэффициенты функции регрессии методом наименьших квадратов;

4) оценить силу найденной регрессионной зависимости на основе коэффициента детерминации ;

5) сделать прогноз(при) или сделать вывод о невозможности прогнозирования с помощью найденной регрессионной зависимости. При этом не рекомендуется использовать модель регрессии для тех значений независимого параметра X, которые не принадлежат интервалу, заданному в исходных данных.

Режим работы "Регрессия" служит для расчета параметров уравнения линейной регрессии и проверки его адекватности исследуемому процессу.

Для решения задачи регрессионного анализа в MS Excel выбираем в меню Сервис/команду Анализ данных и инструмент анализа "Регрессия".

В появившемся диалоговом окне задаем следующие параметры:

1. Входной интервал Y - это диапазон данных по результативному признаку. Он должен состоять из одного столбца.

2. Входной интервал X - это диапазон ячеек, содержащих значения факторов (независимых переменных). Число входных диапазонов (столбцов) должно быть не больше 16.

3. Флажок Метки, устанавливается в том случае, если в первой строке диапазона стоит заголовок.

4. Флажок Уровень надежности активизируется, если в поле, находящееся рядом с ним необходимо ввести уровень надежности, отличный от установленного по умолчанию. Используется для проверки значимости коэффициента детерминации R² и коэффициентов регрессии.

5. Константа ноль. Данный флажок необходимо установить, если линия регрессии должна пройти через начало координат (а₀=0).

6. Выходной интервал/ Новый рабочий лист/ Новая рабочая книга - указать адрес верхней левой ячейки выходного диапазона.

7. Флажки в группе Остатки устанавливаются, если необходимо включить в выходной диапазон соответствующие столбцы или графики.

8. Флажок График нормальной вероятности необходимо сделать активным, если требуется вывести на лист точечный график зависимости наблюдаемых значений Y от автоматически формируемых интервалов перцентилей.

После нажатия кнопки ОК в выходном диапазоне получаем отчет.

Задача: Требуется построить регрессионную линейную модель для исходных данных, построенных в таблице 1, и сделать прогноз для х*.

Некоторая фирма занимается поставками различных грузов на короткие расстояния внутри города. Оценить стоимость таких услуг, зависящую от затрачиваемого на поставку времени. В качестве наиболее важного фактора, влияющего на время поставки, выбрано пройденное расстояние. Были собраны исходные данные о поставках (таблица 1).

Таблица 1 :Исходные данные

X	1	2	3	4	X*=3,6
Y	13	9	8	7	-

Определим характер зависимости между расстоянием и затраченным временем, используя мастер диаграмм MS Excel, проанализируем применимость метода наименьших квадратов, построим уравнение регрессии, используя МНК, проанализируйте силу регрессионной связи. Провем регрессионный анализ, используя режим работы "Регрессия" в MS Excel и сравним с результатами, полученными ранее. Сделаем прогноз времени поездки на 2 мили. Посчитаем и построим графически меру ошибки регрессионной модели используя табличный процессор Excel.

Решение задачи:

На графике строим исходные данные по четырем поездкам.

Рис.1: График исходных данных и предполагаемая линия регрессии

Помимо расстояния на время поставки влияют пробки на дорогах, время суток, дорожные работы, погода, квалификация водителя, вид транспорта. Построенные точки не находятся точно на линии, что обусловлено описанными выше факторами. Но эти точки собраны вокруг прямой линии, поэтому можно предположить линейную связь между параметрами. Все исходные точки равномерно распределены вдоль предполагаемой прямой линии, что позволяет применить метод наименьших квадратов.

Вычислим суммы, необходимые для расчета коэффициентов уравнения линейной регрессии и коэффициента детерминации R² с помощью вспомогательной таблицы (таблица 2).

1	13	1	13	12,1	8,1225	14,0625
2	9	4	18	10,2	0,9025	0,0625
3	8	9	24	8,3	0,9025	1,5625
4	7	16	28	6,4	8,1225	5,0625
?=10	?=37	?=30	?=83	-	18,05	20,75

Таблица 2: Расчет коэффициентов уравнения.

Вычислим коэффициенты линейной регрессии по формулам (1) и (2):

(1)

(2)

Таким образом, искомая регрессионная зависимость имеет вид:

Наклон линии регрессии минут на милю - это количество минут, приходящееся на одну милю расстояния. Координата точки пересечения прямой с осью Y минут - это время, которое не зависит от пройденного расстояния, а обуславливается всеми остальными возможными факторами, явно не учтенными при анализе.

Вычислим коэффициент детерминации:

R?== 0,86988 или 86,98%



Проведем регрессионный анализ с использованием режима Регрессия MSExcel. Значения параметров, установленных в одноименном диалоговом окне, представлены на рис.2.

Рис.2: Регрессионный анализ

Сгенерируются результаты по регрессионной статистике, представленные в таблице 3.

Таблица 3: Регрессионная статистика

Рассмотрим представленную в таблице 3 регрессионную статистику.

Величина R-квадрат, называемая также мерой определенности, характеризует качество полученной регрессионной прямой. Это качество выражается степенью соответствия между исходными данными и регрессионной моделью (расчетными данными). Мера определенности всегда находится в пределах интервала [0;1]. В нашем примере мера определенности равна 0,86988, что говорит об очень хорошей подгонке регрессионной прямой к исходным данным и совпадает с коэффициентом детерминации R², вычисленным по формуле.

Таким образом, линейная модель объясняет 86,98% вариации времени доставки, что означает не правильность выбора фактора (расстояния). Объясняется вариации времени поездки, которые обусловлены остальными факторами, влияющими на время поставки, но не включенными в линейную модель регрессии.

Множественный R- коэффициент множественной корреляции R - выражает степень зависимости независимых переменных (X) и зависимой переменной (Y) и равен квадратному корню из коэффициента детерминации, эта величина принимает значения в интервале от нуля до единицы.

Теперь рассмотрим среднюю часть расчетов, представленную в таблице 4(приведена в сокращенном варианте). Здесь даны коэффициент регрессии а₁ (-1,9) и смещение по оси ординат, т.е. константа a₀ (14).