Расчёт предела обнаружения: формула, примеры и онлайн-калькулятор

Представьте, что вы пытаетесь услышать шёпот на стадионе. Когда вы точно уверены, что кто-то говорит, а не просто шумит ветер? В аналитической химии та же задача: есть сигнал прибора (например, пик на хроматограмме) и есть фоновый шум. Предел обнаружения (LOD, Limit of Detection) — это минимальная концентрация вещества, при которой сигнал можно уверенно отличить от шума.

Зачем это нужно? Без LOD вы рискуете заявить: «Вещество найдено!» — а на самом деле это просто случайный выброс. Или пропустить реальный сигнал, если порог установлен слишком высоко. В пищевой безопасности, экологии, фармацевтике — везде, где важна достоверность анализа, LOD обязателен.

Согласно рекомендациям ICH (Международного совета по гармонизации), LOD можно оценить тремя способами:

• Визуально — по соотношению сигнал/шум 3:1 или 2:1 (устарело, но иногда используется).
• По калибровочной кривой (LOD = 3,3 × σ / S) — основной метод.
• По стандартному отклонению холостой пробы и наклону — частный случай второго метода.

Главная формула, которую вы будете использовать:

Разберём по буквам:

• LOD — предел обнаружения в тех же единицах, что и концентрация (мг/л, мкг/кг и т.д.).
• Sy — стандартное отклонение отклика (сигнала). Обычно берут среднеквадратичную ошибку регрессии калибровочной кривой — standard error of the estimate. Если кривая строится как y = a + b·x, то Sy = sqrt(Σ(yi - ŷi)² / (n-2)).
• S — наклон калибровочной кривой (чувствительность). Чем круче наклон, тем меньшее изменение концентрации даёт заметное изменение сигнала.
• 3,3 — коэффициент, соответствующий доверительной вероятности ~99% для одностороннего теста (берётся из t-распределения для больших выборок). Для LOQ используют коэффициент 10.

Если у вас нет калибровочной кривой, используют упрощённый вариант:

где σ_blank — стандартное отклонение серии (не менее 10) измерений холостой пробы.

Условие: вы определяете содержание свинца в воде методом атомно-абсорбционной спектрометрии. Вы измерили холостую пробу (дистиллированную воду) 10 раз. Получены оптические плотности: 0,001; 0,002; 0,0015; 0,002; 0,001; 0,0015; 0,002; 0,001; 0,0015; 0,002. Среднее = 0,0016, стандартное отклонение σ_blank = 0,00046. Калибровочный график для свинца даёт наклон S = 0,025 (оптическая плотность на 1 мг/л).

Решение:

1. Подставляем в формулу: LOD = 3,3 × (0,00046 / 0,025) = 3,3 × 0,0184 = 0,0607 мг/л.
2. Округляем до значащих цифр: 0,061 мг/л (или 61 мкг/л).

Ответ: предел обнаружения свинца в данной методике — 0,061 мг/л. Всё, что ниже этого значения, не может быть достоверно определено.

Условие: для определения кофеина в напитках методом ВЭЖХ получены калибровочные данные (концентрация x в мг/л, площадь пика y в мВ·с):

Решение шаг за шагом:

1. Постройте линейную регрессию y = a + b·x. В Excel или любом калькуляторе получите: a ≈ 0,47; b = S = 2,51 (мВ·с)/(мг/л); Sy = стандартная ошибка регрессии = 0,32.
2. Подставьте в формулу: LOD = 3,3 × (0,32 / 2,51) = 3,3 × 0,1275 = 0,421 мг/л.
3. Проверьте LOQ = 10 × (0,32 / 2,51) = 1,27 мг/л.

Ответ: LOD = 0,42 мг/л, то есть достоверно определить кофеин можно только при концентрации выше 0,42 мг/л. Для количественных измерений (с точностью ±20%) — от 1,3 мг/л.

Чтобы не считать регрессию вручную, используйте Калькулятор предела обнаружения: вы вводите точки, он сам строит график, считает Sy, S, LOD и LOQ.

Условие: при анализе бензола в воздухе методом газовой хроматографии с ПИД испольуют внутренний стандарт — толуол. Получены отношения площадей пиков (y = A_бензол/A_толуол) для концентраций бензола x (мкг/л): x: 0; 0,5; 1; 2; 5; y: 0,002; 0,052; 0,101; 0,198; 0,495. Постройте регрессию y на x (через ноль не обязательно).

Решение:

1. Регрессия даёт: a = 0,0012; b = S = 0,099 (л/мкг); Sy = 0,0035.
2. LOD = 3,3 × (0,0035 / 0,099) = 3,3 × 0,03535 = 0,1167 мкг/л.
3. Поскольку низкие концентрации дают малые отношения, проверьте соответствие условию: сигнал/шум > 3. Отношение для x=0,1 мкг/л: y=0,0012+0,0099=0,0111, шум ~ 0,002, отношение 5,5 — подходит.

Ответ: LOD = 0,12 мкг/л. Обратите внимание: в этом примере важно использовать именно отношения, чтобы компенсировать дрейф сигнала. Такой подход повышает точность.

Даже опытные аналитики иногда спотыкаются. Вот самые частые грабли:

• Путают LOD и LOQ. Запомните: LOD — это «кажется, есть что-то», LOQ — «я могу это точно измерить». Коэффициенты 3,3 и 10 соответственно.
• Используют Sy от калибровочной кривой с неправильным числом степеней свободы. Для линейной регрессии n-2. Если точек мало (меньше 5), LOD будет ненадёжным.
• Не учитывают холостую пробу. Если в «нулевой» точке есть сигнал, его нужно вычитать из всех сигналов или включить в регрессию.
• Округляют промежуточные результаты. Стандартное отклонение и наклон должны быть с максимальной точностью, иначе LOD «уплывёт».
• Считают LOD по одной калибровочной точке. Это грубейшая ошибка: метод основан на регрессии по минимум 3-5 точкам.

Совет: всегда проверяйте свой расчёт на любом онлайн-калькуляторе. Например, Калькулятор предела обнаружения сделает регрессию и сразу покажет все параметры.

Хотя LOD — вещь сугубо аналитическая, базовая математика та же, что и в других областях. Например:

• Линейная регрессия — основа расчёта наклона S и стандартной ошибки Sy. Если вы владеете методом наименьших квадратов, полдела сделано.
• Предел функции — чисто математическое понятие, но иногда в хроматографии нужно оценить предел сигнала при бесконечном разбавлении.
• Нормальное распределение — используется при проверке гипотезы: «отличается ли сигнал от шума?» Стандартное отклонение предполагает нормальность данных.

Если вам нужно быстро построить калибровочную кривую, пригодится Калькулятор определителя матрицы — для решения систем, но для простой регрессии проще Калькулятор предела функции вряд ли подойдёт, зато Калькулятор нормального распределения поможет оценить вероятность ошибки первого рода.

Проверьте себя: решите и сверьтесь с ответами.

1. Задача 1. σ_blank = 0,0010, S = 0,020. Найдите LOD.
2. Задача 2. Калибровочная кривая: y = 0,5 + 2,0x, Sy = 0,4. Каковы LOD и LOQ? Что они означают?
3. Задача 3. Почему неверно считать LOD = 3 × (сигнал холостой пробы)?

Ответы:

1. LOD = 3,3 × (0,0010/0,020) = 0,165 (ед. концентрации).
2. LOD = 3,3 × (0,4/2,0) = 0,66 ед.; LOQ = 10 × (0,4/2,0) = 2,0 ед. Это значит, что достоверно обнаружить можно от 0,66, а точно измерить — от 2,0.
3. Потому что сигнал холостой пробы — это среднее, а не разброс. Нужно стандартное отклонение, а не среднее значение.

Лучший способ не ошибиться — доверить расчёт автоматизации. Вот как работает Калькулятор предела обнаружения:

1. Введите свои данные: в столбцах «Концентрация» и «Сигнал» (можно скопировать из Excel).
2. Нажмите «Рассчитать» — калькулятор построит регрессию, покажет уравнение, Sy, S, LOD, LOQ.
3. Проверьте график: нет ли выбросов? Если точка явно выбивается, исключите её и пересчитайте.
4. Скачайте отчёт с результатами в PDF.

Инструмент также выводит доверительные интервалы для LOD и LOQ. Рекомендуется указывать их в отчётах.