{
    "version": "https:\/\/jsonfeed.org\/version\/1",
    "title": "Математика и кофе: заметки с тегом конверсия",
    "_rss_description": "Отделы продаж, коллцентры, аналитика, цифры и данные, воронки продаж, матстатистика..",
    "_rss_language": "ru",
    "_itunes_email": "",
    "_itunes_categories_xml": "",
    "_itunes_image": "",
    "_itunes_explicit": "",
    "home_page_url": "https:\/\/mathandcoffee.ru\/tags\/konversiya\/",
    "feed_url": "https:\/\/mathandcoffee.ru\/tags\/konversiya\/json\/",
    "icon": "https:\/\/mathandcoffee.ru\/user\/userpic@2x.jpg?1559386410",
    "author": {
        "name": "Иван Балдин",
        "url": "https:\/\/mathandcoffee.ru\/",
        "avatar": "https:\/\/mathandcoffee.ru\/user\/userpic@2x.jpg?1559386410"
    },
    "items": [
        {
            "id": "45",
            "url": "https:\/\/mathandcoffee.ru\/all\/grafik-konversii-s-doveritelnym-intervalom\/",
            "title": "График конверсии с доверительным интервалом",
            "content_html": "<p>Некоторое время с удовольствием использую более свежую визуализацию конверсии, добавляя к своим диаграммам <b>границы доверительного интервала.<\/b><\/p>\n<h2>Конверсия офисов продаж<\/h2>\n<p>Итак, например, мы оцениваем эффективность работы территориальных офисов продаж. Под <b><i>эффективностью<\/i><\/b> понимаем отношение числа совершенных продаж к числу заявок (конверсию заявок в продажи, или просто <b><i>«конверсию»).<\/i><\/b> То есть, если в офисе «Сокольники» за квартал было 19 продаж на 33 заявки, их эффективность будем считать равной 19\/33 = 57,6%.<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/candles-sd-00.png\" width=\"642\" height=\"382\" alt=\"\" \/>\n<\/div>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/candles-sd-01.png\" width=\"455\" height=\"454\" alt=\"\" \/>\n<\/div>\n<p>Очевидно, что одни офисы работают эффективнее других: конверсия по офисам меняется от 57,6% до 17,6%. Заметно также, что и число заявок в офисах различно: от 33 заявок в «Сокольниках» до 706 заявок в «Лианозово».<\/p>\n<p>Обычно на этом этапе многие останавливаются, но есть несложный способ воспользоваться понятием «доверительного интервала» или «стандартного отклонения (SD)», чтобы показать то, что, на первый взгляд, не так заметно.<\/p>\n<h2>Оцениваем размер выборки и величину SD<\/h2>\n<p>Как нетрудно заметить, из-за неравного числа заявок по разным офисам («Сокольники» отличаются в этом смысле от «Лианозово» почти в 22 раза), уверенность в надежности рассчитанной конверсии будет не одинакова. Так, для «Лианозово» результат в 36,1% достигнут на выборке из 706 заявок и может считаться вполне надежным; в «Сокольниках» мы получили результат 57,6% на небольшой выборке в 33 заявки, из-за чего нет уверенности, что, получи со временем последние свои 706 заявок, они бы удержали результат на том же уровне.<\/p>\n<p>Разумеется, необходимо прикинуть размер доверительного интервала для каждого офиса продаж, исходя из числа заявок, то есть, размера выборки.<\/p>\n<p>Уже знакомая нам формула стандартного отклонения (SD), или <i>&sigma;<\/i>:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn.png\" width=\"201\" height=\"77\" alt=\"\" \/>\n<\/div>\n<p>где <i>p<\/i> — величина конверсии, <i>n<\/i> — число заявок.<\/p>\n<p>Считаем в колонке E:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/candles-sd-02.png\" width=\"637\" height=\"380\" alt=\"\" \/>\n<\/div>\n<p>Полученная величина стандартного отклонения (SD) показывает погрешность при расчете конверсии, и, очевидно, оказалась выше там, где была меньше выборка. Чем меньше данных, тем менее надежен рассчитанный результат, и тем меньше мы уверены в нашей оценке эффективности соответствующего офиса продаж.<\/p>\n<h2>Считаем границы 90%-го доверительного интервала<\/h2>\n<p>Дополним нашу таблицу рассчитанными нижней и верхней границей 90%-го доверительного интервала. Другими словами, оценим разброс конверсий по каждому из офисов продаж, так, что с вероятностью 90% мы будем уверены, что <i>истинная<\/i> конверсия лежит в пределах этого диапазона.<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/candles-sd-03.png\" width=\"653\" height=\"381\" alt=\"\" \/>\n<\/div>\n<p>Зная о том, что границы 90%-го доверительного интервала лежат в пределах &plusmn;1,645SD, вычитаем и прибавляем 1,645SD для нижней и верхней границ, соответственно. Для «Лианозово» получаем, что их <i>истинная<\/i> конверсия лежит в пределах от 33,1% до 39,1%. (По-прежнему, в 1 случае из 10 она выходит за границы нашего интервала, но зато в 9 случаях из 10 мы не ошиблись).<\/p>\n<h2>Дополняем график, рисуя «свечи»<\/h2>\n<p>В Excel 2013 воспользуемся <b>«биржевой диаграммой»,<\/b> указав вместо <b><i>самого высокого<\/i><\/b> и <b><i>самого низкого курсов<\/i><\/b> верхнюю и нижнюю границу наших доверительных интервалов, а вместо <b><i>курса закрытия<\/i><\/b> — рассчитанную вначале конверсию:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/candles-sd-04.png\" width=\"634\" height=\"600\" alt=\"\" \/>\n<\/div>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/candles-sd-05.png\" width=\"454\" height=\"454\" alt=\"\" \/>\n<\/div>\n<p>Доработанная подобным образом диаграмма не меняет выводов, полученных в самом начале. Однако, для наблюдательного руководителя она ненавязчиво напоминает, что полученные значения конверсий офисов продаж <b>не конечны,<\/b> и особенно «не конечны» там, где оказались шире границы разброса конверсии.<\/p>\n<p>«Сокольники», предварительно, обогнали «Беговой», однако, если хороший результат «Бегового» надежен за счет узкого интервала, то результат «Сокольников» очень приблизителен, поэтому уверенные выводы возможно делать лишь о части офисов продаж, для остальных — нужно больше данных, а до тех пор их позиции в рейтинге можно считать лишь предварительными, или, как было сказано выше, не конечными.<\/p>\n<h2>См. также:<\/h2>\n<p><a href=\"http:\/\/italylov.ru\/blog\/all\/ctatisticheskaya-dostovernost-koltrekinga\/\">http:\/\/italylov.ru\/blog\/all\/ctatisticheskaya-dostovernost-koltrekinga\/<\/a><\/p>\n",
            "date_published": "2021-05-25T01:13:50+03:00",
            "date_modified": "2021-05-25T01:17:18+03:00",
            "image": "https:\/\/mathandcoffee.ru\/pictures\/candles-sd-00.png",
            "_date_published_rfc2822": "Tue, 25 May 2021 01:13:50 +0300",
            "_rss_guid_is_permalink": "false",
            "_rss_guid": "45",
            "_e2_data": {
                "is_favourite": false,
                "links_required": [],
                "og_images": [
                    "https:\/\/mathandcoffee.ru\/pictures\/candles-sd-00.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/candles-sd-01.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/candles-sd-02.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/candles-sd-03.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/candles-sd-04.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/candles-sd-05.png"
                ]
            }
        },
        {
            "id": "40",
            "url": "https:\/\/mathandcoffee.ru\/all\/doveritelny-interval-binomialnogo-raspredeleniya-po-metodu-uilso\/",
            "title": "Доверительный интервал биномиального распределения по методу Уилсона",
            "content_html": "<p>В процессе изучения биномиального распределения, обратил внимание, что стандартный способ определения доверительного интервала через <i>&plusmn;1,645SD<\/i> не всегда точен. Грубо говоря, если «решка» выпала меньше, чем в 10 бросках, то, скорее всего, либо вы сделали мало бросков, либо у вас вероятность выпадения «решки» в «заколдованной монетке» сильно невелика; если <i>np<\/i> &lt; 10, лучше воспользоваться более сложными формулами, дающими более точные оценки при маленьких <i>p<\/i> или <i>n:<\/i><\/p>\n<p><i>По мнению многих статистиков, наиболее оптимальную оценку доверительных интервалов для частот осуществляет <b>метод Уилсона (Wilson),<\/b> предложенный еще в 1927 году &lt;...&gt;. Данный метод не только позволяет оценить доверительные интервалы для очень малых и очень больших частот, но и применим для малого числа наблюдений.<\/i><\/p>\n<p>Звучит заманчиво. Попробуем разобраться.<\/p>\n<h2>Метод Уилсона<\/h2>\n<p>Нижняя и верхняя граница доверительного интервала <i>p = 1—&alpha;\/2<\/i> вычисляются следующими формулами:<\/p>\n<div class=\"e2-text-picture\">\n<div class=\"fotorama\" data-width=\"392\" data-ratio=\"2.6666666666667\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/wilson01.PNG\" width=\"392\" height=\"147\" alt=\"\" \/>\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/wilson02.PNG\" width=\"393\" height=\"132\" alt=\"\" \/>\n<\/div>\n<div class=\"e2-text-caption\">Формула расчета нижней и верхней границ, соответственно.<\/div>\n<\/div>\n<p>где <i><b>p<\/b><\/i> — наблюдаемая вероятность «выпадения решки», <i><b>N<\/b><\/i> — число измерений («бросков»), <i><b>z<\/b><\/i> — <i>z-<\/i>оценка (например, 1,960 для 95%-го доверительного интервала, или 1,645 для 90%-го).<\/p>\n<h2>Пример и калькулятор для расчета<\/h2>\n<p>Предположим, нам удалось прослушать 10 рандомных звонков колл-центра, и в 4 из них оператор забыл или поленился уточнить у клиента источник рекламы. Скорее всего, исходя из данной информации, операторы не уточняют источники рекламы в 40% звонков.<\/p>\n<p>Однако, это очень смелое утверждение, ведь наша выборка (10 звонков) откровенно мала: для получения более точной оценки качества работы коллцентра, хорошо бы прослушать больше рандомных звонков (прослушать все звонки, очевидно, невозможно).<\/p>\n<p>Но даже для выборки из 10 звонков, можно рассчитать SD биномиального распределения:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn.png\" width=\"201\" height=\"77\" alt=\"\" \/>\n<\/div>\n<p>Имеем, SD = 15,49%. С вероятностью 90%, точная оценка качества работы коллцентра (доля звонков, где не выявлен источник рекламы) лежит в диапазоне 40%&plusmn;1,645SD, или от 14,52% до 65,48%.<\/p>\n<p>Применяя же формулу Уилсона (что уместно, так как <i>np<\/i> = 4 &lt; 10), границы доверительного интервала уточняются: с вероятностью 90%, истинная доля звонков, где не выявляется источник рекламы, лежит в границах от 19,42% до 64,84%. SD, получается, равно 13,80%.<\/p>\n<p><a href=\"https:\/\/docs.google.com\/spreadsheets\/d\/1QSvQF7SHUF8QIM8dzxWFT0itI5rP2VOn-tWJ4tHX5qI\/edit?usp=sharing\"><b>Калькулятор<\/b><\/a> в Google Таблицах (меню «Файл» — «Создать копию»).<\/p>\n<h2>См. также:<\/h2>\n<p>«<a href=\"https:\/\/cyberleninka.ru\/article\/n\/doveritelnye-intervaly-dlya-chastot-i-doley\/viewer\">Доверительные интервалы для частот и долей<\/a>», А.М. Гржибовский, 2008 (стр. 58-59)<br \/>\n<a href=\"http:\/\/vassarstats.net\/prop1.html\">Онлайн-калькулятор<\/a> для 95%-го доверительного интервала<br \/>\n<a href=\"https:\/\/www.wolframalpha.com\/input\/?i=binomial+distribution+confidence+interval&assumption=%22FSelect%22+-%3E+%7B%7B%22WilsonScoreInterval%22%7D%7D&assumption=%7B%22F%22%2C+%22WilsonScoreInterval%22%2C+%22k%22%7D+-%3E%224%22&assumption=%7B%22F%22%2C+%22WilsonScoreInterval%22%2C+%22c%22%7D+-%3E%220.90%22&assumption=%7B%22F%22%2C+%22WilsonScoreInterval%22%2C+%22n%22%7D+-%3E%2210%22\">Калькулятор<\/a> на WolframAlpha.com<br \/>\n<a href=\"https:\/\/www.ucl.ac.uk\/english-usage\/staff\/sean\/resources\/binomialpoisson.pdf\">Binomial confidence intervals and contingency tests<\/a> (стр.4-5)<br \/>\n<a href=\"https:\/\/influentialpoints.com\/Training\/confidence_intervals_of_proportions.htm#wils\">https:\/\/influentialpoints.com\/Training\/confidence_intervals_of_proportions.htm#wils<\/a><br \/>\n<a href=\"https:\/\/en.wikipedia.org\/wiki\/Binomial_proportion_confidence_interval#Wilson_score_interval\">Wilson score interval<\/a> на Википедии<\/p>\n",
            "date_published": "2020-04-01T16:54:50+03:00",
            "date_modified": "2020-04-01T16:55:04+03:00",
            "image": "https:\/\/mathandcoffee.ru\/pictures\/wilson01.PNG",
            "_date_published_rfc2822": "Wed, 01 Apr 2020 16:54:50 +0300",
            "_rss_guid_is_permalink": "false",
            "_rss_guid": "40",
            "_e2_data": {
                "is_favourite": false,
                "links_required": [
                    "system\/library\/jquery\/jquery.js",
                    "system\/library\/fotorama\/fotorama.css",
                    "system\/library\/fotorama\/fotorama.js"
                ],
                "og_images": [
                    "https:\/\/mathandcoffee.ru\/pictures\/wilson01.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/wilson02.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn.png"
                ]
            }
        },
        {
            "id": "27",
            "url": "https:\/\/mathandcoffee.ru\/all\/golosovoy-robot-kupivip-ugadyvaem-razmer-vyborki\/",
            "title": "Голосовой робот KupiVIP, угадываем размер выборки",
            "content_html": "<p>В статье «<a href=\"https:\/\/vc.ru\/marketing\/54315-keys-zamenili-na-black-friday-koll-centr-kupivip-robotom-i-tolko-5-chelovek-iz-5000-ponyali-chto-obshchayutsya-s-neyrosetyu\">Кейс: заменили на Black Friday колл-центр KupiVIP роботом, и только 5 человек из 5000 поняли, что общаются с нейросетью<\/a>» на vc.ru меня, среди прочего, не могла не заинтересовать фраза, где автор рассказывает о росте конверсии с 6% до 8%:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_00.PNG\" width=\"690\" height=\"276\" alt=\"&quot;количество активаций промокода у голосового робота доходило до 8% против 6% у реальных сотрудников колл-центра.&quot;\" \/>\n<\/div>\n<p>Естественно, я задумался, на каком же объеме звонков был зафиксирован данный рост конверсии, и достаточен ли был этот объем, чтобы можно было достоверно утверждать, что голосовой робот эффективнее живых операторов колл-центра.<\/p>\n<p>Точно вопрос можно было бы сформулировать, например, следующим образом: <b>какой минимальный объем звонков требуется сделать, чтобы с уровнем достоверности, например, 95% зафиксировать рост конверсии с 6% до 8%?<\/b><\/p>\n<h2>Строим эксперимент в Excel<\/h2>\n<p>Попробуем выписать имеющиеся данные в Excel. Для дальнейших расчетов нам понадобится параметр <i>«число звонков»<\/i> — предположим пока, что и робот, и операторы сделали по 1000 звонков, прежде чем были получены конверсии 6% и 8%:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_01.PNG\" width=\"366\" height=\"215\" alt=\"\" \/>\n<\/div>\n<p>Вообще, налицо обычный А\/Б сплит-тест, и далее нам нужно будет пройтись по его алгоритму для получения <i>Z-оценки<\/i> и расчета <i>p-значения<\/i>.<\/p>\n<p>Рассчитаем стандартные ошибки (SD, или &sigma;) для обеих конверсий и стандартную ошибку разницы этих конверсий. Формула для расчета стандартной ошибки конверсии:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn.png\" width=\"201\" height=\"77\" alt=\"\" \/>\n<\/div>\n<p>где <i>p<\/i> — конверсия (6%, например), <i>n<\/i> — размер выборки (1000 звонков). Считаем в Excel:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_02.PNG\" width=\"573\" height=\"217\" alt=\"\" \/>\n<\/div>\n<p>Стандартная ошибка разницы конверсий — считаем по формуле:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn02.png\" width=\"230\" height=\"58\" alt=\"\" \/>\n<\/div>\n<p>где &sigma; — это стандартная ошибка каждой из конверсий A и B (оператор и робот). В Excel посчитаем ее чуть ниже:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_03.PNG\" width=\"556\" height=\"250\" alt=\"\" \/>\n<\/div>\n<p>Насколько разница между конверсиями A и B больше, чем стандартная ошибка этой разницы? Это соотношение называется <i><b>Z-оценкой.<\/b><\/i> В Excel считается совсем просто:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_04.PNG\" width=\"506\" height=\"271\" alt=\"\" \/>\n<\/div>\n<p>Итак, Z-оценка = 1,7541. На графике нормального распределения это соответствует 96%-му персентилю, то есть, вероятность, что Z-оценка случайно окажется выше 1,7541 составляет порядка 4% (иными словами, 96% площади под колоколом нормального распределения не выходят за пределы +1,7541 стандартных отклонений):<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_05.PNG\" width=\"706\" height=\"304\" alt=\"\" \/>\n<\/div>\n<p>Откуда мы взяли именно 96%? Точное значение вероятности, <i>p-значение,<\/i> вычисляем по формуле:<\/p>\n<pre class=\"e2-text-code\"><code class=\"\">=НОРМ.РАСП(1,7541;0;1;ИСТИНА)<\/code><\/pre><div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_06.PNG\" width=\"571\" height=\"94\" alt=\"\" \/>\n<\/div>\n<p>P-значение = 96,03%.<\/p>\n<p>Итак, промежуточный вывод: <b>если на выборке в 1000 звонков в каждом из двух случаев мы обнаружили конверсии (активации промокода) в 6% и 8% звонков, то мы на 96% уверены, что эта разница не случайна.<\/b> (Остается 4% вероятности, что обнаруженная разница — случайность. Тогда, возможно, конверсия вообще одинакова и равна, например, 7%. Сделай мы больше звонков, разница вскоре сошла бы на нет).<\/p>\n<h2>Эксперимент минимального размера<\/h2>\n<p>Однако, вернемся к первоначальной задаче.<\/p>\n<p>Мы не хотели убедиться, что 8% больше, чем 6%, да и цифра 1000 звонков для робота и операторов была выбрана наугад. Мы хотели рассчитать <b>минимальное количество звонков, чтобы с уровнем уверенности 95% зафиксировать статистическую значимость разницы между 8% и 6%.<\/b><\/p>\n<p>1000 звонков нам оказалось точно достаточно. Теперь нам остается уменьшать это число до той поры, пока p-значение не пересечет границу 95%. (По формуле нормального распределения, кстати, это будет соответствовать Z-оценке, равной 1,6449 — попробуйте проверить.)<\/p>\n<p>В теории, наверное, можно было бы вывести большую формулу для расчета такого <i>n,<\/i> при котором p-значение будет равно 0,95. На практике, быстрее окажется вручную подобрать минимальное n. Или, еще лучше, воспользоваться в Excel инструментом <b>Данные — Анализ «что, если» — Подбор параметра:<\/b><\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_07.PNG\" width=\"797\" height=\"186\" alt=\"\" \/>\n<\/div>\n<p>(Убедитесь только, что число звонков робота ровно то же самое, что и число звонков оператора, т. е. вы указали =C6 в ячейке C7).<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_08.PNG\" width=\"817\" height=\"185\" alt=\"\" \/>\n<\/div>\n<h2>Выводы<\/h2>\n<p>Итак, мы вычислили минимальные условия эксперимента для оценки эффективности голосового робота для KupiVIP.<\/p>\n<p><b>Нужно не менее 878 звонков в каждой из двух групп, чтобы с уровнем достоверности 95% подтвердить наличие разницы между 6% активаций промокодов в контрольной группе (реальные сотрудники) и 8% в тестовой группе (голосовой робот).<\/b><\/p>\n<p>(Единственное, ни 6%, ни 8% не дают целого числа активаций на выборке из 878 звонков, и, в реальности, конечно, цифры будут другие, причем число звонков в двух группах вообще может быть различным. Но, на самом деле, это не имеет большого значения, т. к., наверняка, в статье были приведены округленные значения конверсий).<\/p>\n<h2>См. также:<\/h2>\n<p><a href=\"https:\/\/abtestguide.com\/calc\/?ua=1000&ub=1000&ca=60&cb=80\">https:\/\/abtestguide.com\/calc\/?ua=1000&ub=1000&ca=60&cb=80<\/a><\/p>\n",
            "date_published": "2019-07-20T13:18:48+03:00",
            "date_modified": "2019-07-20T14:35:26+03:00",
            "image": "https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn03.png",
            "_date_published_rfc2822": "Sat, 20 Jul 2019 13:18:48 +0300",
            "_rss_guid_is_permalink": "false",
            "_rss_guid": "27",
            "_e2_data": {
                "is_favourite": false,
                "links_required": [
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css"
                ],
                "og_images": [
                    "https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn03.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_00.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_01.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_02.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn02.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_03.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_04.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_05.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_06.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_07.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/kupivip_robot_08.PNG"
                ]
            }
        },
        {
            "id": "19",
            "url": "https:\/\/mathandcoffee.ru\/all\/oshibka-konversii\/",
            "title": "Когнитивная ошибка конверсии",
            "content_html": "<p>Любопытная особенность работы с понятием <i>конверсия<\/i> заключается в том, что, строго говоря, <b>конверсия практически никогда не бывает определена точно.<\/b><\/p>\n<p>Вот эти вот «конверсия звонка в продажу 18,4%», «CTR 3,1%», «конверсия в сделки 30%» — это всегда немного упрощенный подход, будто конверсия надежно измерена и, если и изменится, то мы это объясним объективными факторами, не допуская мысли, что изначально никаких «18,4%» и не было, а были только 38 договоров, которые мы сделали на 206 звонках, и это вовсе не значит, что их не могло бы быть больше или меньше.<\/p>\n<p>Примерно, как местоположение электрона вокруг ядра атома не задается точными координатами, а лишь описывается некоторой областью, в которой он, наиболее вероятно, находится, наша конверсия — это тоже не конкретное число, а, в действительности, <b>интервал, в котором она находится.<\/b><\/p>\n<h2>Расчет конверсии и когнитивное искажение<\/h2>\n<p>Рассмотрим вымышленный отдел продаж, в котором с этого года начали продавать новый продукт. Допустим, ммм, <b>лимузины.<\/b> Продукт не пользуется большим спросом, поэтому, пока что, данных для анализа не так много, или, лучше сказать, совсем мало:<\/p>\n<div class=\"e2-text-table\">\n<table cellpadding=\"0\" cellspacing=\"0\" border=\"0\">\n<tr>\n<td><b>месяц<\/b><\/td>\n<td style=\"text-align: right\"><b>Заявки<\/b><\/td>\n<td style=\"text-align: right\"><b>Продажи<\/b><\/td>\n<\/tr>\n<tr>\n<td>август<\/td>\n<td style=\"text-align: right\">48<\/td>\n<td style=\"text-align: right\">1<\/td>\n<\/tr>\n<tr>\n<td>сентябрь<\/td>\n<td style=\"text-align: right\">35<\/td>\n<td style=\"text-align: right\">1<\/td>\n<\/tr>\n<tr>\n<td>октябрь<\/td>\n<td style=\"text-align: right\">24<\/td>\n<td style=\"text-align: right\">0<\/td>\n<\/tr>\n<tr>\n<td>ноябрь<\/td>\n<td style=\"text-align: right\">61<\/td>\n<td style=\"text-align: right\">2<\/td>\n<\/tr>\n<tr>\n<td>декабрь<\/td>\n<td style=\"text-align: right\">32<\/td>\n<td style=\"text-align: right\">0<\/td>\n<\/tr>\n<tr>\n<td><b>ИТОГО:<\/b><\/td>\n<td style=\"text-align: right\"><b>200<\/b><\/td>\n<td style=\"text-align: right\"><b>4<\/b><\/td>\n<\/tr>\n<\/table>\n<\/div>\n<p>Как видно из данных наших продаж, по итогам нескольких месяцев, мы имеем 4 сделки на 200 лидов (заявок), т. е. наша конверсия равна 4 \/ 200 = 2,0%<\/p>\n<p>(Дополнительно, исходя из цифр пяти месяцев работы, мы можем примерно спрогнозировать 480 лидов на следующий год и, соответствнно, 480 * 0,02 = 9,6 сделок.)<\/p>\n<p>В целом, на таких скудных данных ошибиться невозможно, поэтому, безусловно, такой прогноз не будет ошибочным. Однако, он содержит важное когнитивное искажение: 2,0% это не точное значение, а <i>наиболее пока вероятное<\/i> значение конверсии заявок в продажи наших лимузинов.<\/p>\n<p><b>В действительности, конверсия не может быть определена точно. Она лежит в доверительном интервале от 0,4% до 3,6%.<\/b> И в будущем году нужно прогнозировать не 9,6 сделок, а от 5 до 15 проданных лимузинов. К сожалению, определить этот диапазон точнее будет довольно самонадеянным.<\/p>\n<h2>Колокол конверсии<\/h2>\n<p>Исходя из предположения, что наша <i>истинная<\/i> конверсия стабильна, и <i>точно<\/i> равна 2,0%, мы можем прикинуть возможные варианты числа сделок на 480 лидов, ожидаемых в будущем году. Поскольку мы можем отвечать только за стабильность <i>своей<\/i> работы, но не можем учесть фактор случайности (настроение клиентов, форс мажор, случайная продажа другу гендиректора), всегда существует вероятность, что число сделок будет немного отличаться от прогнозируемых 480 * 0,02 = 9,6 сделок подобно тому, как число решек на 480 бросков монеты может немного отличаться от 240, и быть 235, 248, или, возможно, даже 223.<\/p>\n<p>Графически это выглядит как <i>колокол нормального распределения,<\/i> где, чем дальше мы уходим от математического ожидания в 9 сделок в центре колокола, тем ниже становится вероятность сделать сильно меньше или сильно больше сделок:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/oshibka01.png\" width=\"648\" height=\"372\" alt=\"\" \/>\n<\/div>\n<p>Глядя на полученный график, приходится признать, что увидеть меньше 2-х и больше 19-ти сделок практически невероятно.<\/p>\n<p>Но, можно ли сузить наш <i>доверительный интервал?<\/i><\/p>\n<h2>Доверительный интервал конверсии<\/h2>\n<p>Стандартная ошибка (SD) для биномиального распределения считается по формуле:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn-1.png\" width=\"238\" height=\"39\" alt=\"\" \/>\n<\/div>\n<p>где <b><i>n<\/i><\/b> — это число испытаний, <b><i>p<\/i><\/b> — вероятность успеха.<\/p>\n<p>Для наших 200 заявок текущего года имеем:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/oshibka02.png\" width=\"366\" height=\"310\" alt=\"\" \/>\n<\/div>\n<p><b>SD = 1,98 сделок.<\/b> Иными словами, согласно законам нормального распределения (а биномиальное распределение — это частный случай нормального распределения), примерно в 68% случаев, работая с истинной конверсией 2,0%, мы бы попали в доверительный интервал от 2,02 до 5,98 сделок, то есть +\/-1SD.<\/p>\n<p>Для прогнозируемых 480 заявок будущего года получим:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/oshibka03.png\" width=\"372\" height=\"190\" alt=\"\" \/>\n<\/div>\n<p><b>SD = 3,07 сделок.<\/b> По законам биномиального (нормального) распределения, известно, что в 68% случаев продажи будущего года будут лежать в пределах +\/- 1SD от математического ожидания в 9,6 сделок, а в 90% случаев — в пределах +\/- 1,645SD от матожидания. 3,07 сделок * 1,645 = 5,05 сделок, иными словами, в 90% случаев, работай мы весь следующий год с конверсией 2%, мы не выйдем за границы доверительного интервала «от 4,55 до 14,65 сделок». (Примечательно, что, обратно, в 1 случае из 10, мы, все-таки, выйдем за эти границы, по-прежнему, при этом, работая с «истинной» конверсией 2%.)<\/p>\n<p>Любопытно, какой шум поднимет коммерческий директор, если по итогам года мы продадим всего 4 лимузина на 480 заявок, формально показав конверсию 0,83%... и еще более любопытно, что, статистически, это происходит в 1 из 27 отделов продаж. <b>В одном из 27-ми случаев вас увольняют за невыполнение плана продаж, хотя вы по-прежнему работаете с «истинной» конверсией 2%.<\/b><\/p>\n<h2>Три конверсии на границе доверительного интервала<\/h2>\n<p>Как же тогда относится к результатам текущего года, где мы получили 4 сделки на 200 заявок?<\/p>\n<p><b>Первый случай, «2,00%».<\/b> Его мы рассмотрели сразу. 4 \/ 200 = 0,02, т. е. наша конверсия равна 2%. При этом, по законам биномиального распределения, все равно есть вероятность колебаться в 90%-м доверительном интервале «+\/-1,645SD», т. е., в интервале от 0,74 до 7,26 сделок на 200 заявок.<\/p>\n<p>Выглядит это примерно так:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/oshibka04.png\" width=\"658\" height=\"372\" alt=\"\" \/>\n<\/div>\n<p>Наш результат в 4 сделки совпал с математическим ожиданием от конверсии 2,0%, хотя, в общем, он мог и не совпасть, в целом находясь в 90% доверительном интервале от 1 до 7 сделок.<\/p>\n<p><b>Второй случай, «1,22%».<\/b> В этом случае, в реальности, наша «истинная» конверсия, <b>на самом деле, ниже, и равна, например, 1,22%.<\/b> Тогда матожидание числа проданных лимузинов примерно равно 2, и нам <b>повезло<\/b> сделать 4 продажи. Степень нашего везения такова, что сделать <i>более<\/i> 4 продаж мы могли бы только в 10% случаев. Т. е., мы остаемся в поле 90%-й вероятности, хотя и находимся на границе этого поля. Еще чуть-чуть, и нам повезет слишком сильно, а пока что нам везет «в пределах разумного»:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/oshibka05.png\" width=\"648\" height=\"372\" alt=\"\" \/>\n<\/div>\n<p><b>Третий случай, «3,31%».<\/b> Теперь мы предположим, что в текущем году <b>нам не везло,<\/b> хотя весь год наша истинная конверсия была выше 2,0% и <b>равнялась 3,31%.<\/b> Матожидание для 200 заявок тогда равнялось бы примерно 6 проданным лимузинам, а сделать <i>менее<\/i> 4-х продаж было бы возможно лишь в 10% случаев. Тогда мы тоже остаемся в поле 90%-й вероятности, но находимся на левой границе этого поля с нашими невезучими 4 сделками.<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/oshibka06.png\" width=\"648\" height=\"372\" alt=\"\" \/>\n<\/div>\n<p><b>Таким образом, приходится признать: мы не знаем наверняка, какая из 3-х конверсий — истинная.<\/b> Нам привычно думать, что речь идет о 1-м случае, и мы делим 4 сделки на 200 заявок, получая конверсию 2,00%. Но никто не знает наверняка, является ли текущий год обычным или необычным, везло ли нам в нем, или не везло. В 90% случаев речь могла идти <b>как о везении,<\/b> и мы работали в действительности с конверсией 1,22%, <b>так и о невезении,<\/b> когда мы работали с конверсией 3,31%. <b>Во всех 3-х случаях вероятность сделать 4 сделки на 200 заявок не выходила за границы 90%.<\/b><\/p>\n<p>К сожалению, у нас пока слишком мало данных, чтобы утверждать что-то можно было более точно.<\/p>\n<h2>Нужно больше данных<\/h2>\n<p>Логично задать вопрос — а сколько нужно накопить данных, чтобы более-менее надежно говорить о конверсии 2,0%? Попробуем постепенно увеличивать размер выборки (число заявок, и, следовательно, продаж), пока не увидим, как 90%-й доверительный интервал сомкнется вокруг значения конверсии в 2,00%:<\/p>\n<div class=\"e2-text-table\">\n<table cellpadding=\"0\" cellspacing=\"0\" border=\"0\">\n<tr>\n<td style=\"text-align: right\"><b>                    Заявки<\/b><\/td>\n<td style=\"text-align: right\"><b>             Сделки<\/b><\/td>\n<td style=\"text-align: right\"><b>Нижняя граница 90% доверительного интервала (-1,645SD)<\/b><\/td>\n<td style=\"text-align: right\"><b>Верхняя граница 90% доверительного интервала (+1,645SD)<\/b><\/td>\n<td style=\"text-align: right\"><b>Нижняя граница конверсии<\/b><\/td>\n<td style=\"text-align: right\"><b>Верхняя граница конверсии<\/b><\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: right\">200<\/td>\n<td style=\"text-align: right\">4<\/td>\n<td style=\"text-align: right\">0,7<\/td>\n<td style=\"text-align: right\">7,3<\/td>\n<td style=\"text-align: right\">0,37%<\/td>\n<td style=\"text-align: right\">3,63%<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: right\">500<\/td>\n<td style=\"text-align: right\">10<\/td>\n<td style=\"text-align: right\">4,9<\/td>\n<td style=\"text-align: right\">15,1<\/td>\n<td style=\"text-align: right\">0,97%<\/td>\n<td style=\"text-align: right\">3,03%<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: right\">1 000<\/td>\n<td style=\"text-align: right\">20<\/td>\n<td style=\"text-align: right\">12,7<\/td>\n<td style=\"text-align: right\">27,3<\/td>\n<td style=\"text-align: right\">1,27%<\/td>\n<td style=\"text-align: right\">2,73%<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: right\">5 000<\/td>\n<td style=\"text-align: right\">100<\/td>\n<td style=\"text-align: right\">83,7<\/td>\n<td style=\"text-align: right\">116,3<\/td>\n<td style=\"text-align: right\">1,67%<\/td>\n<td style=\"text-align: right\">2,33%<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: right\">10 000<\/td>\n<td style=\"text-align: right\">200<\/td>\n<td style=\"text-align: right\">177,0<\/td>\n<td style=\"text-align: right\">223,0<\/td>\n<td style=\"text-align: right\">1,77%<\/td>\n<td style=\"text-align: right\">2,23%<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: right\">50 000<\/td>\n<td style=\"text-align: right\">1 000<\/td>\n<td style=\"text-align: right\">948,5<\/td>\n<td style=\"text-align: right\">1 051,5<\/td>\n<td style=\"text-align: right\">1,90%<\/td>\n<td style=\"text-align: right\">2,10%<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: right\">100 000<\/td>\n<td style=\"text-align: right\">2 000<\/td>\n<td style=\"text-align: right\">1 927,2<\/td>\n<td style=\"text-align: right\">2 072,8<\/td>\n<td style=\"text-align: right\">1,93%<\/td>\n<td style=\"text-align: right\">2,07%<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: right\">500 000<\/td>\n<td style=\"text-align: right\">10 000<\/td>\n<td style=\"text-align: right\">9 837,2<\/td>\n<td style=\"text-align: right\">10 162,8<\/td>\n<td style=\"text-align: right\">1,97%<\/td>\n<td style=\"text-align: right\">2,03%<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: right\">1 000 000<\/td>\n<td style=\"text-align: right\">20 000<\/td>\n<td style=\"text-align: right\">19 769,7<\/td>\n<td style=\"text-align: right\">20 230,3<\/td>\n<td style=\"text-align: right\">1,98%<\/td>\n<td style=\"text-align: right\">2,02%<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: right\">10 000 000<\/td>\n<td style=\"text-align: right\">200 000<\/td>\n<td style=\"text-align: right\">199 271,7<\/td>\n<td style=\"text-align: right\">200 728,3<\/td>\n<td style=\"text-align: right\">1,99%<\/td>\n<td style=\"text-align: right\">2,01%<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: right\">25 000 000<\/td>\n<td style=\"text-align: right\">500 000<\/td>\n<td style=\"text-align: right\">498 848,5<\/td>\n<td style=\"text-align: right\">501 151,5<\/td>\n<td style=\"text-align: right\">2,00%<\/td>\n<td style=\"text-align: right\">2,00%<\/td>\n<\/tr>\n<\/table>\n<\/div>\n<p>Надо ли говорить, что получить более нескольких десятков тысяч заявок-лидов может мало какой из отделов продаж. <b>Поэтому, приходится признать, что ставить планы продаж и принимать кадровые решения относительно сотрудников, работающих с уровнями конверсии 1-5% — это безумие, и на таких маленьких числах математика в продажах не работает.<\/b><\/p>\n<h2>См. также:<\/h2>\n<p><a href=\"http:\/\/italylov.ru\/blog\/all\/ctatisticheskaya-dostovernost-koltrekinga\/\">http:\/\/italylov.ru\/blog\/all\/ctatisticheskaya-dostovernost-koltrekinga\/<\/a><\/p>\n",
            "date_published": "2019-05-07T12:39:07+03:00",
            "date_modified": "2019-05-07T13:46:21+03:00",
            "image": "https:\/\/mathandcoffee.ru\/pictures\/oshibka01.png",
            "_date_published_rfc2822": "Tue, 07 May 2019 12:39:07 +0300",
            "_rss_guid_is_permalink": "false",
            "_rss_guid": "19",
            "_e2_data": {
                "is_favourite": true,
                "links_required": [],
                "og_images": [
                    "https:\/\/mathandcoffee.ru\/pictures\/oshibka01.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn-1.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/oshibka02.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/oshibka03.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/oshibka04.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/oshibka05.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/oshibka06.png"
                ]
            }
        }
    ],
    "_e2_version": 3565,
    "_e2_ua_string": "E2 (v3565; Aegea)"
}