3.5. Обработка результатов трехдозовой постановки методом латинского квадрата (биологическая активность антибиотиков методом диффузии в агар в чашках Петри)

Биологическую активность антибиотиков определяют по зонам угнетения роста микроорганизмов. В каждую чашку Петри вносят по 3 раствора стандартного образца и 3 раствора испытуемого препарата. В качестве ответа принимают диаметр зоны угнетения в мм. Последовательность внесения растворов в лунки или цилиндры приведена в таблице 14.2.3.14.

Таблица 14.2.3.14

Схема трехдозового латинского квадрата

№ чашки	Дозы
1.
2.
3.
4.
5.
6.

Таблица 14.2.3.15

Ответы y

Строка	Столбцы						Сумма строк (R)
1.	16,4	17,6	18,2	16,2	17,2	18,4	R1 = 104,0	10816,00
2.	17,8	16,4	17,4	18,2	16,0	17,2	R2 = 103,0	10609,00
3.	17,0	18,4	16,6	17,2	18,8	15,4	R3 = 103,4	10691,56
4.	16,4	16,6	18,0	16,0	17,6	18,0	R4 = 102,6	10526,76
5.	18,2	16,0	17,4	18,6	16,2	17,4	R5 = 103,8	10774,44
6.	17,4	18,4	16,2	17,4	18,0	16,0	R6 = 103,4	10691,56
Сумма столб-цов (С)	103,2	103,4	103,8	103,6	103,8	102,4
	10650,24	10691,56	10774,44	10732,96	10774,44	10485,76

Таблица 14.2.3.16

Суммы ответов и контрасты

	Стандартный образец S		Испытуемый препарат U		Сумма
Малая доза	S1 =	97,6	U1 =	96,2
Средняя доза	S2 =	104,6	U2 =	102,8
Большая доза	S3 =	109,8	U3 =	109,2
Сумма	S =	312,0	U =	308,2	S + U =	620,2
Линейный контраст	LS =	12,2	LU =	13,0	LS + LU =	25,2
Квадратический контраст	QS =	–1,8	QU =	–0,2	QS + QU =	–2,0

Для того чтобы проверить правильность проведенного опыта и вычислить его дисперсию, проводят дисперсионный анализ полученных данных. При этом рассчитывают значения дисперсий для 10 источников дисперсии (см. сводную таблицу 14.2.3.17).

Для этого на основании данных, представленных в таблице 14.2.3.15 и 14.2.3.16, а также поправочного коэффициента, вычисляют суммы квадратов источников дисперсии.

Поправочный коэффициент ;

;

;

;

;

;

Таблица 14.2.3.17

Сводная таблица дисперсионного анализа (трехдозовый латинский квадрат)

Источник дисперсии (показатель)	Число степеней свободы (f)	Сумма квадратов	Средний квадрат	Наблю-даемое значение критерия Фишера Fнабл.		Критиче- ское значение критерия Фишера Fкритич.
Препараты	1	0,401	0,401	4,307
Регрессия	1	26,46	26,46	284,18	>8,1		(P=99 %)
Параллельность	1	0,027	0,027	0,290	<4,35		(P=95 %)
Квадратичность	1	0,055	0,055	0,591	<4,35		(P=95 %)
Разность квадратичностей	1	0,0361	0,0361	0,3877	<4,35		(P=95 %)
Обработки		26,9789	5,39578
Строки		0,2189	0,04378	0,4702	<4,1		(P=99 %)
Столбцы		0,2322	0,04644	0,4988	<4,1		(P=99 %)
Отклонение		1,8622	0,09311
Итог		29,2922	0,83692

n = 6 (число ответов на дозу);

N = 36 (общее число ответов в опыте);

m = 0 (число утраченных и замененных значений).

Значимость различий дисперсий проверяют с помощью критерия Фишера. Обязательным является выполнение требований для показателей «Регрессия», «Параллельность», «Квадратичность», «Разность квадратичностей», «Строки» и «Столбцы». Для «Регрессии» наблюдаемое значение критерия Фишера должно быть больше критического (P = 99 %), а для показателей «Параллельность» (P = 95 %), «Строки» (P = 99 %) и «Столбцы» (P = 99 %) – меньше критического. Показатель «Регрессия» характеризует дозозависимость, «Параллельность» – параллельность двух линий регрессии, «Квадратичность» и «Разность квадратичностей» – линейность дозозависимости, а «Строки» и «Столбцы» – сбалансированность ответов на протяжении всего опыта.

Для того чтобы найти F_набл. средние квадраты показателей делят на средний квадрат показателя «Отклонение». Полученные результаты сравнивают с табличными критическими значениями критерия Фишера (приложения, таблица III). Число степеней свободы f₁ = 1 или 5, а f₂ = 20.

Дисперсионный анализ показал правильность результатов опыта: статистическую значимость дозозависимости («Регрессия»), параллельность двух линий регрессии («Параллельность»), линейность дозозависимости («Квадратичность» и «Разность квадратичностей») и отсутствие статистически значимых различий между строками и столбцами (см. одноименные показатели).

Вычисление биологической активности и ее доверительных границ

Соотношение доз равно 1,5, следовательно ;

,

при f = 20 и P = 99 %;

Логарифмические доверительные границы биологической активности испытуемого препарата вычисляют по формуле:

.

Логарифмические доверительные границы биологической активности испытуемого препарата составляют –0,08610 и 0,01325 Нижняя и верхняя доверительная граница составляет и , т. е. 820,09 МЕ/мг и 1030,97 МЕ/мг соответственно.