Почему статистика не работает, и что с этим делать

Большинство публикаций про статистику начинаются с известного выражения: «Существует три вида лжи: ложь, наглая ложь и статистика». Отличная традиция, давайте ее поддержим. Основания для скептического отношения есть, и для начала рассмотрим их.

Числовые данные выглядят веско, академично, убедительно — это же цифры! То есть элита среди фактов. А уж если было проведено исследование… Как можно спорить с выводами, которые сделаны на основании статистических данных?

Ну например вот так.

Манипуляции со статистикой

Прежде всего, надо проверять все эти «исследования». Что делать сложно, дорого, трудоемко, а зачастую и вовсе нереально. Вы же не будете покупать аналогичное уникальное оборудование, летать в прошлое, набирать полные больницы пациентов с определенными диагнозами, самостоятельно пересчитывать трафик на локациях и т.д.

Обычно мы принимаем все на веру. Никто кроме авторов исследований не знает, как на самом деле собирали исходные данные, какие из них попали в выборку, а что подчистили для красивой диаграммы.

Кроме того, ошибки бывают и случайно. Помните эпоху шпината? Когда не там поставили запятую в исследовании о содержании железа в зелени, все решили, что это чудо-трава, и стали пичкать ею детей. Прошло много лет, прежде чем удосужились проверить и снизить показатель в 10 раз. Но образ суперполезной зелени за шпинатом закрепился, похоже, навсегда – его до сих пор рекомендуют диетологи и врачи.

Ладно, пусть все цифры собраны добросовестно, никаких подчисток и опечаток нет. Теперь-то можно верить статистике? Как бы не так! Важно в каком виде ее покажут. Возможны такие манипуляции:

  • Выборочный охват. Достаточно взять показатели за удачный период, и продукт демонстрирует рост продаж, а компания прибыльность. Хотя в целом ситуация может быть другой.
  • Среднее вместо медианы. Если сложить оклады вахтеров и топ-менеджмента, получится бесполезная и ложная «общая картина».
  • Игра со шкалами. Наводим мощную лупу на ось Y, и незначительная рябь по вертикали начинает казаться обвалом или взлетом. Часто применяется в курсах валют, ценных бумаг и акций.
  • Относительные значения. Без инфографики тоже можно: вдвое выросло, втрое снизилось. Звучит громко, а реальные изменения могут быть незаметными. Например, было 2 – стало 4 (при общих объемах в сотни или тысячи).
  • Нерелевантные метрики. Охваты вместо лидов, лиды вместо конверсий, конверсии вместо продаж — по одной и той же аналитике интернет-магазина можно построить множество разных отчетов. Одни из них рапортуют о победе над рынком, другие фиксируют провал рентабельности и убытки.
  • Экстраполяция. Это мое любимое, тут лучше показать на картинке:

Экстраполяция

Ничего страшного, что ноль выше пересечения осей, так даже лучше. Классика жонглирования цифрами как раз в том и заключается, чтобы выстроить их под определенные выводы.

Наконец, и тоже в любимчиках – перлы с сайта Spurious Correlations. Там берут статистические данные с открытых источников и сопоставляют их для выявления корреляций. Выглядят они, например, так:

корреляции с сайта Spurious Correlations

На графике выше наглядно показана убедительная связь между популярностью имени Киллиан и возвратами автомобилей из-за проблем с подушками безопасности.

Там полно чудесных корреляций. Среди них:

  • Текущее расстояние от Сатурна до Солнца — количество поисков в Google по запросу «Как сделать ребенка».
  • Популярность имени Маргарита — кражи машин в Индиане.
  • Запрос в Google «Тейлор Свифт» — использование топлива на Вирджинских островах.
  • Объемы ГМО при выращивании кукурузы в Канзасе — количество почтальонов в том же Канзасе.
  • Популярность мема про парня, который оглянулся на чужую девушку — объем энергии, генерируемой гидроэлектростанциями Туркменистана.
  • Потребление маргарина — количество разводов.
  • Количество судей в Индиане — просмотры сериала «Теория большого взрыва». 

Все эти корреляции настоящие. Они видны по реальным статистическим данным, на основании масштабных официальных исследований. Каждая находка снабжена графиками за много лет наблюдений.

Однако в том и проблема, что даже настоящие и полные цифры сами по себе никакой особой ценности не представляют. Все решает интерпретация.

Когда мы пользуемся чужой статистикой, она редко предоставляется бескорыстно и объективно. Обычно кто-то хорошо вложился в эти цифры, пытается чего-то лоббировать или продать с их помощью. Примерно как врачи в белых халатах на экранах телевизоров, пока их не запретили, наконец, в законе о рекламе.

А закона о статистике пока нет. Поэтому каждый использует ее как хочет. Одни данные утаивает, другие фальсифицирует, третьи показывает тенденциозно. И обязательно сопровождает выводами.

Готовые выводы, да еще на основании цифр — это удобно, конечно. Но спасибо, лучше не надо. Мы как-нибудь сами.

Как пользоваться статистикой 

Действительно, лучшие цифры как подарок: должны быть собраны собственными руками.

С легким допущением к ним можно отнести и цифры, собираемые при помощи вендоров. Например, web-статистика по нашим собственным сайтам, строго говоря, не всегда такая уж «личная». Сохраняется риск ошибок на стороне счетчиков.

Не потому что Яндекс или Google коварно обманут с числом посещений, действиями пользователей на сайте. Бывают задвоения при неправильной настройке, можно случайно потерять полезный трафик из-за собственных фильтров, легко промахнуться с таргетингом, потерять часть данных из-за блокировок cookie.

К сожалению, даже полностью «свои» данные при ближайшем рассмотрении не совсем таковы, их сложно контролировать досконально.

Тем не менее все собственные наблюдения – однозначно, лучшие. Золотой фонд статистики можно дополнять сведениями от партнеров, отраслевым нормированием и далее по нисходящей, со все большими рисками и сомнениями.

Но даже такие цифры полезны. Их можно использовать по-разному:

  • простым поиском составить первичный список конкурентов, 
  • оценить их расположение по онлайн-картам, 
  • прикинуть численность населения по данным 2ГИС, 
  • полистать публикации о сезонных колебаниях спроса, 
  • добавить еще пару метрик по вкусу — и бизнес-план почти готов.

Конечно, хочется брать цифры в основу любых рассуждений, планов и решений. По большому счету вопрос стоит не так: стоит ли использовать чужую статистику. Речь исключительно о степени доверия к ней.

И вот здесь начинается самое интересное. Оценка достоверности числовых данных — задача гораздо более сложная, чем их получение. 

Как оценить достоверность данных

Есть формальные и относительно простые приемы. Сначала стоит провести отсев явных фейков, всевозможной числовой ерунды. Проще всего это делать по авторитетности источников. Условно, данные с РБК – хорошо, пост от юзера Вася200208 в соцсети – плохо. 

Далее, смотрим актуальность. Исторические данные даже для выявления трендов сейчас подходят разве что с натяжкой. Какая разница, что там за динамика была до ковида и последующих событий. Фраза «Там уже их нет» из «Служебного романа» описывает не только ситуацию с гусями в СССР, но и много нынешних остатков по куда более широкому ассортименту. 

Поэтому статистика нужна по возможности свежая. Дата публикации не всегда говорит о том, когда собирались данные. Тут уже надо покопаться.

Не помешает проверить хотя бы в нескольких разных источниках, лучше больше. Вдруг где-то ошиблись, показали только часть, мало ли еще бывает «нестыковок». 

Солидные исследования всегда показывают методологию. Там должны быть все подходы, способы сбора информации, допущения, формулы. Как говорится, не приглашайте меня на вечеринку, если она не похожа по прозрачности на «Рейтинги Рунета». Но и они сталкивались с накрутками и подтасовками. Некоторые участники специально завышали количество сертификатов, вымогали отзывы с клиентов — все ради более высоких строчек. 

Проверять «этичность» данных – от лукавого. А вот подумать об аффилированности участников процесса, пожалуй, стоит. Здесь придется выключить калькулятор, активировать гуманитарное полушарие мозга и задаться вопросом «Кому это выгодно?».

Сам факт публикации определенной статистики иногда может навести на мысли о том, кто за этим стоит и что вообще происходит. Особенно если речь не о регулярных публичных сведениях, а произошел внезапный «слив». 

Кстати о них. Одно дело игнорировать чужую мораль, и немного другое — поступиться собственной. Большое число данных доступно, как бы это помягче, в серой зоне. Через хакерские базы данных, справочные боты в Telegram и прочие мутные схемы. Как ни печально, там довольно много настоящей информации. Актуальной, хорошо структурированной, достоверной. С учетом активности жуликов еще и полной. Флеш-рояль по ключевым характеристикам! Пользоваться ли этим великолепием и как именно – каждый решает сам. 

Мой общий вывод по статистике: она похожа на Интернет. Очень много всего, по большей части условно бесплатно или дешево. При этом качество данных оставляет желать лучшего, проверять их бывает очень сложно и трудоемко. В конечном счете, только вы сами решаете, чему верить или нет, какие цифры отобрать для анализа и своих выводов.

P. S.

У этой темы есть еще один ракурс, возможно, самый важный. Будущее не предопределено. Там, где одни получили выдающиеся результаты, вас может ждать провал. На том же самом рынке, с похожим продуктом для тех же сегментов целевой аудитории. По цифрам все сходится, а по факту – нет. 

Обратное тоже верно: если статистика выглядит удручающе, вы все еще можете преуспеть. Все шансы были против, а ребенок вырос чемпионом. Кукушка поленилась с диагнозом, а он прожил до ста лет.

Мы можем пользоваться историей в числовом выражении, но свою собственную историю пишем сами. 

Будьте приятным исключением из любой статистики. Михаил Жванецкий однажды сказал: «Я так рад, что своею жизнью подтверждаю чью-то теорию». Представьте, насколько приятнее послужить ее опровержением.

Читайте также:

Расскажите коллегам:
Комментарии
Researcher, Москва
Эрнст Мальцев пишет:
Статистика выступлений А.Курочкина вызывает некоторую тревогу - резкое падение! И правда, что случилось?

С 09 октября включительно тишина. И фоточку с авки убрал.

Knowledge manager, Пермь
Сергей Средний пишет:

В идеале нужно прийти к 50/50 -- но на практике такое не достижимо. Просто в силу того, что на часть ассортимента вам потребуется снизить цену настолько, что они станут нерентабельны (ну или увеличить непрямые расходы в продвижение этого висяка, что в сущности то же). Поэтому для нормализации продаж всей товарной матрицы используют иные рычаги управления, а не простое выведение низколиквидных позиций из матрицы.

Сергей, Ваши рассуждения понятны и они характеризуют то, что считается сейчас нормальным - снижение цены.

Такая политика сложилась давно. Например Акио Морита описал ее, что когда SONY начала аыводить свою продукцию на рынок США - это было нормой для всех компаний.

Но SONY пошла своим путем......

Про статистическое управление товарами в магазине, на складе и на производстве хорошо описал в своих романах Голдратт. 

Такое управление дает более лучшие показатели и по финансоаым результатам!

Аналитик, Москва
Эрнст Мальцев пишет:

Статистика выступлений А.Курочкина вызывает некоторую тревогу - резкое падение! И правда, что случилось? Надеюсь - хороший отпуск с выездом к теплому морю, где не до суеты сует.

Всё нормально, Эрнст! Просто последние дискуссии мне стали напоминать толковища.

Сергей Средний пишет:

С 09 октября включительно тишина. И фоточку с авки убрал.

Следить за мной не надо. Вас тоже здесь не было месяц. 

Knowledge manager, Пермь
Евгений Равич пишет:

Согласен, хотя далеко не всегда можно понять, связаны ли эти 20% только с 80%, или такие результаты получены по какой-то другой внешней причине

Действительно, можно установить определенные пропорции и не понять как ими можно управлять!

Нужны также исследования функциональных зависимостей действий людей и оборудования. Здесь возникают и психологические нюансы.

Например, когда Тойити Оно исследовал и наблюдал за своими подчиненными для решения определенных задач, то он чувствовал что его подчиненные напрягаются, когда за ними наблюдает руководитель.

Он успокаиаал себя тем  что у них уже сложились доверительные отношения в том  что его действия направлены на общее благо.

После того, как проведено исследование и понята проблема/задача - нужно организовать взаимодействие специалистов между собой, чтобы они договорились как самым удобным для них образом можно решить поспаленную задачу и добиться намеченных результатов.

Так что анализ цифр в большистве случаев это только начало пути.

Хотя встречал в ИТ сфере такие исследования, что по анализу метрик сразу можно снижать затраты на плохую статистику и увеличивать на хорошую, добиваясь таким образом более лучших финансовых результатов.

Researcher, Москва
Анатолий Курочкин пишет:
Следить за мной не надо. Вас тоже здесь не было месяц. 

Верните фоточгу на авку пжлст.
А тот не хорошо это -- человег есть, а фоточги нет.
Не по-человечески как-то.
У вас всё хорошо?

Генеральный директор, Москва
Станислав Антипов пишет:
Евгений Равич пишет:
Немного о книге и интервью с её автором. С одним из тезисов я полностью согласен: Я хочу помочь людям мыслить более критично. Чтобы они спрашивали себя: «Минуточку, а эти данные правильные или нет? Выводы верные или нет?». В мире бизнеса не все в порядке с мышлением. 

Неожиданно. Как же так! Где советы автору заняться собой, окончить среднюю школу, научиться выращивать картошку? Прям не узнаю Вас )

О них кто-то просил?

Генеральный директор, Москва
Борис Кондрабаев пишет:
Хотя встречал в ИТ сфере такие исследования, что по анализу метрик сразу можно снижать затраты на плохую статистику и увеличивать на хорошую, добиваясь таким образом более лучших финансовых результатов.

Что именно исследовалось? И как при этом делались выводы о хорошей и плохой статистике (возможно, продаж)?

Руководитель, Москва
Евгений Равич пишет:
Станислав Антипов пишет:
Евгений Равич пишет:
Немного о книге и интервью с её автором. С одним из тезисов я полностью согласен: Я хочу помочь людям мыслить более критично. Чтобы они спрашивали себя: «Минуточку, а эти данные правильные или нет? Выводы верные или нет?». В мире бизнеса не все в порядке с мышлением. 

Неожиданно. Как же так! Где советы автору заняться собой, окончить среднюю школу, научиться выращивать картошку? Прям не узнаю Вас )

О них кто-то просил?

А разве я просил о таких или похожих советах в свой адрес? О любых личных рекомендациях?

Но хорошо что вы хоть к кому-то не цепляетесь. Идеи в книге похожие на те, что изложил здесь я. По большому счету не так важно, с чьей подачи они будут приняты. Как раз сейчас обсуждаем это под текстом про (с) и заимствования

Генеральный директор, Москва
Станислав Антипов пишет:
Евгений Равич пишет:
Станислав Антипов пишет:
Евгений Равич пишет:
Немного о книге и интервью с её автором. С одним из тезисов я полностью согласен: Я хочу помочь людям мыслить более критично. Чтобы они спрашивали себя: «Минуточку, а эти данные правильные или нет? Выводы верные или нет?». В мире бизнеса не все в порядке с мышлением. 

Неожиданно. Как же так! Где советы автору заняться собой, окончить среднюю школу, научиться выращивать картошку? Прям не узнаю Вас )

О них кто-то просил?

А разве я просил о таких или похожих советах в свой адрес? О любых личных рекомендациях?

Но хорошо что вы хоть к кому-то не цепляетесь. Идеи в книге похожие на те, что изложил здесь я. По большому счету не так важно, с чьей подачи они будут приняты. Как раз сейчас обсуждаем это под текстом про (с) и заимствования

Да, верно, я не цепляюсь ко всем. Да и вообще не цепляюсь. Только прошу объяснить подробнее, если я что-то не понимаю.

Там выше в моем комментарии год издания этой книги. А сама тема об ошибках менеджеров намного старше. Как и анекдоты о корреляции. Так что Вы, излагая идеи, "похожие на те", мягко говоря, не первый. Хотя не знаю, что Вы до этого действительно прочитали - или просто воспользовались расширенным поиском или генератором текстов.

Вы также просили написать в ветке что-нибудь полезное. Больше об этом не просил никто. И Вы никого не спрашивали, что и кому может быть полезно. Так что написал то, что считал наиболее полезным для Вас.

Knowledge manager, Пермь
Евгений Равич пишет:
Борис Кондрабаев пишет:
Хотя встречал в ИТ сфере такие исследования, что по анализу метрик сразу можно снижать затраты на плохую статистику и увеличивать на хорошую, добиваясь таким образом более лучших финансовых результатов.

Что именно исследовалось? И как при этом делались выводы о хорошей и плохой статистике (возможно, продаж)?

Исследовался путь от продвижения по разным каналам и разным активностям до продаж.

Там где вложенные деньги и усилия не приносили вообще никакого результата или низкий результат - активность прекращали.

Направив эти денежные средства на активности с большим откликом, получали при этом быстро нужную результативность.

С одной стороны это хороший подход! А с другой стороны анализ производится в уже заданных ранее пределах.

Поэтому улучшения безусловно есть, но нужно понимать, что условно автоматизацию можно разделить на вредную для компании, предельно-допустимую, хорошую и отличную.

Также нужно понимать, что в условиях глобального кризиса управления редко можно встретить предельно-допустимую и выше.

А улучшения вредной автоматизации хоть и могут дать локальные положительные результаты, но все же не позволят организациям успешно развиваться.

1 5 7 9 11
Оставлять комментарии могут только зарегистрированные пользователи
Статью прочитали
Обсуждение статей
Все комментарии
Дискуссии
Все дискуссии
HR-новости
Исследование: чего ждут российские IT-специалисты от работодателей

Половина сотрудников в IT мечтают о гибриде, но большинство опрошенных вынуждены работать в офисе.

Предлагаемые в России зарплаты выросли на 25% за год

Быстрее всего зарплаты в 2024 году росли у водителей, сварщиков и промоутеров — в 1,5–2 раза.

90% работодателей готовы нанимать неопытных специалистов

Представители бизнеса считают, что перспективные кандидаты, готовые к обучению, могут стать настоящим активом для компании.

Половина россиян оказалась в состоянии выгорания к концу 2024 года

Наиболее распространенные симптомы выгорания — постоянное чувство усталости и раздражительность.