Диссертация (1140530), страница 22

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 22)

Для конкретного значенияобъемнойактивностирадона(ОАRn)(определяемогочерезобычноизмеряемую эквивалентную равновесную активность радона ЭРОАRn какОАRn = ЭРОАRn/0,5 ) вне зависимости от пола, возраста и статуса по курению,значение ЕRR рассчитывается по следующей формуле.ERR  0,0016  OARn ,Согласно статье, при отсутствии облучения радоном и его ДПР,относительныйриск для курящих превышает относительный риск длянекурящих в 25,8 раза.Расчетабсолютногочисласмертельныхслучаеврадон-индуцированного рака легкого DRn предлагается проводить по формулеDRn ERR n Di1  ERR i 1где Di– число смертельных случаев рака легкого в регионе, вызванного всемипричинами в i-й возрастной группе; n – число возрастных групп.Поскольку опубликованных данных для Москвы по числу смертельныхслучаев от рака легкого с разбивкой по возрастам нет, можно рассчитатьобщее число радон-индуцированных раков легкого на 1000 всех смертей отрака легкого.В таблице 32 приведены расчеты числа смертельных случаев радониндуцированного рака легкого.

на 1000 случаев всех смертей от рака легкогодля различных уровней ЭРОА радона.147Таблица 32 – Расчет числа смертельных случаев радон-индуцированногорака легкого DRn на 1000 случаев всех смертей от рака легкого для различныхуровней ЭРОАRnDRn на 1000 смертейЭРОАRn,ОАRnмЗв/годмЗв/год0,681,360,00220,00222562,44,80,00770,007681971,543,080,00490,004951271,22,40,00380,00384996,212,40,01980,0195195023,426,840,01090,0108112795100,01600,01571640610200,03200,03103180015300,04800,045846118220400,06400,0602601552ERRERR/(1+ERR)ДляДлянекурящих курящих148ПРИЛОЖЕНИЕ 2СТАТИСТИЧЕСКАЯ ОБРАБОТКА РЕЗУЛЬТАТОВ ИССЛЕДОВАНИЯВ настоящем разделе приводятся таблицы экспериментальных данных,используемых в различных главах работы, и результаты их статистическойобработки. Поскольку в работе основополагающие моменты при выборекритериев ранжирования территорий по радоноопасности связаны с разницейв средних значениях тех или иных параметров, основное внимание приобработке уделено проверке гипотезы о равенстве средних.Формулы для расчетов.

Обозначения:x– среднее арифметическое (математическое ожидание) выборкиσ– среднее квадратическое отклонение выборки1. Доверительный интервал для математического ожидания рассчитывалсяпо классической формулеxnt , k  mo  x nt , k(1),где n – число членов в выборке, ta,k – значение функция Стьюдента дляуровня значимости aи числа степеней свободы k = n-1.2. Проверка статистического равенства дисперсий производилась с помощьюкритерия Фишера.Вычислялось отношение дисперсий двух анализируемых выборокF 12 22F,если,илив противоположном случае. (2)12 22 12Если FF(1-) – дисперсии равны. Значения F(1-) находятся из таблиц илирассчитываются по функции распределения Фишера (Функция FРАСПОБР вExcel),  - уровень значимости, число степеней свободы выборок m1 = n1 – 1;m2 = n2 – 1.1493. Проверка различий производилась с помощью обобщенного критерия tСтьюдента, который имеет различия в зависимости от того, равны или нетдисперсии рядов.Если дисперсии рассматриваемых выборок равны, вычисляются сводная(n1  1) 12  (n2  1) 22дисперсия  n1  n2  22и значение t-критерия, как t Контрольное значение ta,kстепеней свободы(3)x1  x21 1n1 n2(4)для заданного уровня значимости a и числаk = n1 + n2 – 2 определяется из таблиц или по функциираспределения Стьюдента (Функция СТЬЮДРАСПОБР в Excel)Если дисперсии двух рассматриваемых рядов не равны, тогда значение tкритерия определяется следующим образом.tx1  x2 12n1 22(5)n2Число степеней свободы k для контрольного значения ta,k определяется извыражения1c2(1  c) 2,k n1  1 n2  1(6) 12где c n121n1 22(7)n2При tt,k средние значения рассматриваемых выборок можно принятьравными, принадлежащими одной генеральной совокупности.4.

Оценка вида распределения, которому подчиняются данные,проводилась с использованием критерия согласия W2, основывающегося напорядковой статистике членов исследуемой выборки. Иногда этот критерийназывают критерием Смирнова – Крамера – Мизеса.150Если выборочные значения х1, х2, . . . , хn расположены в порядкевозрастания, то для любой непрерывной функции распределения F(x) можновычислитьn1i  0,5) .nw    F ( xi ) 12n i 1 n 22(8)В случае соответствия экспериментальных данных искомому распределениюзначение nw2не должно превышать критического значения z.

Критическиезначения z для уровня значимости  =0,05 равно 0,4614, для уровнязначимости  =0,01 – 0,7434.Эквивалентная равновесная объемная активность радона.Экспериментальные данные (данные использовались в Главе 3)Таблица 33 - Измеренные значения ЭРОА радона для 1 этажей и подвалов поадминистративным округам. Доверительный интервал для среднего 95%1 этажиОкругПодвалыNx , Бк/м3σ, Бк/м3Nx , Бк/м3σ, Бк/м3ЦАО357512,3±0,38,4116933,6±1,424,3САО364011,3±0,39,3128343,1±2,850,8СВАО309311,8±0,411,0190143,9±2,249,5ВАО439212,7±0,28,1157841,9±1,937,9ВАО411811,7±0,28,3152148,8±3,366,2ЮАО584716,5±0,415,6234259,3±2,869,0ЮЗАО268612,4±0,49,6109741,3±2,744,8ЗАО328110,4±0,38,2147248,1±3,874,1СЗАО252312,6±0,37,297937,2±2,134,1ЗелАО85110,6±0,45,633232,8±1,918,1Москва2936312,8±0,110,11199945,3±1,054,3151Таблица 34 - Среднегодовые значения ЭРОА радона в подвалах и этажах от 1и выше для жилых зданий.

Доверительный интервал для среднего 95%Округот 1 этажа и вышеNx, Бк/м3 σ, Бк/м3подвалыNx, Бк/м3 σ, Бк/м3ЦАО727920,49,957265,2±3,239,1САО344715,77,658352,8±5,673,4СВАО412118,510,6106967,6±4,168,7ВАО333316,58,038860,3±2,424,3ЮВАО398517,08,250553,6±5,867,0ЮАО607118,39,1107047,6±2,033,0ЮЗАО285419,98,347256,4±4,752,4ЗАО455018,58,375557,5±2,636,2СЗАО265920,57,940262,0±4,747,7ЗелАО62526,18,710569,4±4,121,3Москва3892418,69,1592158,1±1,352,4Таблица 35 - Среднегодовые значения ЭРОА радона в подвалах и этажах от 1и выше для детских садов. Доверительный интервал для среднего 95%от 1 этажа и вышеОкругNx, Бк/м3 σ, Бк/м3ПодвалыNx, Бк/м3σ, Бк/м3ЦАО175320,613,726753,9±5,546,1САО258324,314,337499,0±11,2110,1СВАО171920,212,7386102,7±12,3123,5ВАО327722,313,955373,6±6,679,5ЮВАО334022,513,9417113,0±10,1105,2ЮАО328927,521,4505153,5±13,3152,6152Продолжение таблицы 35ЮЗАО 200921,616,127480,3±7,863,8ЗАО155218,913,2352130,5±21,7207,3СЗАО126523,412,812864,3±8,750,2ЗелАО122418,08,412056,6±5,229,1Москва2201122,615,33376100,5±4,1122,6Таблица 36.

Среднегодовые значения ЭРОА радона в подвалах и этажах от1 и выше для школьных учреждений. Доверительный интервал 95%от 1 этажа и вышеОкругNx, Бк/м3 σ, Бк/м3ПодвалыNx, Бк/м3σ, Бк/м3ЦАО217824,318,932154,0±4,742,9САО241435,530,232699,1±9,688,4СВАО167522,923,140169,0±8,081,4ВАО450622,213,263780,2±5,773,7ЮВАО407624,916,2599103,9±12,0149,9ЮАО572340,032,8767142,0227222,016,1347150,8±10,080,4ЗАО186620,318,2365104,0150,0СЗАО411623,412,844770,870,1ЗелАО93621,710,610763,045,9Москва2976227,322,7431795,1113,2ЗАО87,9Оценка вида распределения нормальному или или логнормальному законам.В таблице 37 приведены экспериментальные значения nw2 для всехпроверяемых выборок по подвалам.153Таблица 37 - Расчетные значения статистики W2 для оценки соответствияизмеренных радона для подвалов нормальному или логнормальному законам.Для nw2при уровне значимости a= 0,05 критическое значение Z = 0,4614При соответствии закону nw2  Z.nw2№Округ (район)п/пnw2(нормальный (логнормальн)ый)Соответствиезакону*)1ЦАО1,0360,073ЛН2САО6,1390,257ЛН3СВАО8,9190,747Нет4Алексеевское0,3530,042Н-ЛН5Алтуфьевское1,2400,254ЛН6Бабушкинское1,1000,296ЛН7Бибирево0,8540,189ЛН8Бутырское0,5630,122Н-ЛН9Лианозово0,3070,041Н-ЛН10Лосиноостровское0,3910,035Н-ЛН11Марфино0,1630,034Н-ЛН12Марьина роща0,0250,038Н-ЛН13Свиблово0,1460,089Н-ЛН1Преображенское0,3450,080Н-ЛН15Ростокино0,0570,050Н-ЛН16Северное Медведково0,7010,201Н-ЛН17Ярославское0,4300,048Н-ЛН18ВАО8,4540,463ЛН19ЮВАО4,3430,961Нет20Текстильщики0,2470,047Н-ЛН21Кузьминки0,1050,179Н-ЛН154Продолжение таблицы 3722 Выхино-Жулебино0,1060,111Н-ЛН23Лефортово0,7570,249ЛН24Капотня1,1000,296ЛН25Печатники0,0370,037Н-ЛН26Рязанское0,1030,058Н-ЛН27Южнопортовое1,1980,207ЛН28ЮАО5,6190,114ЛН29ЮЗАО15,0260,371ЛН30ЗАО17,5672,028Нет31Солнцево0,8650,070ЛН32Можайское0,3750,090Н-ЛН33Кунцево2,6470,488ЛН34Фили-Давыдково0,8170,098ЛН35Тропарево-Никулино0,8890,106ЛН36Раменское0,5150,212Н-ЛН37Ново-Переделкино0,2140,036Н-ЛН38Проспект Вернадского3,1310,540ЛН39Филевский парк0,2010,115Н-ЛН40СЗАО0,3370,079Н-ЛН41Зеленоград0,7330,047Н-ЛН*)ЛН – статистическое соответствие логнормальному закону распределения;Н – нормальному закону; Н-ЛН – статистическое соответствие обоимзаконам; нет – выборка не соответствует ни одному из проверяемых законов.В том случае, если выборка для округа не соответствовала ни одномуихз проверяемых законов, производилось их деление на более мелкиевыборки, по муниципальным районам.

Более мелкие выборки соответствуютлибо логнормальному, либо обоим законам распределения.155Это может быть следствием неоднородности распределения радона нетолько по территории всего мегаполиса, но и по таким территориальнымобразованиям, как административные округа.Аналогичная картина наблюдается и для выборок ЭРОА радона на 1этажах (таблица 38), однако соответствие законам хуже, чем для подвалов,что можно объяснить качеством данных.

Характеристики

Список файлов диссертации