{
    "version": "https:\/\/jsonfeed.org\/version\/1",
    "title": "Математика и кофе: заметки с тегом Google Таблицы",
    "_rss_description": "Отделы продаж, коллцентры, аналитика, цифры и данные, воронки продаж, матстатистика..",
    "_rss_language": "ru",
    "_itunes_email": "",
    "_itunes_categories_xml": "",
    "_itunes_image": "",
    "_itunes_explicit": "",
    "home_page_url": "https:\/\/mathandcoffee.ru\/tags\/google-tablicy\/",
    "feed_url": "https:\/\/mathandcoffee.ru\/tags\/google-tablicy\/json\/",
    "icon": "https:\/\/mathandcoffee.ru\/user\/userpic@2x.jpg?1559386410",
    "author": {
        "name": "Иван Балдин",
        "url": "https:\/\/mathandcoffee.ru\/",
        "avatar": "https:\/\/mathandcoffee.ru\/user\/userpic@2x.jpg?1559386410"
    },
    "items": [
        {
            "id": "41",
            "url": "https:\/\/mathandcoffee.ru\/all\/normalnoe-raspredelenie\/",
            "title": "Нормальное распределение",
            "content_html": "<h2>Нормальное распределение<\/h2>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/normal00.png\" width=\"958\" height=\"392\" alt=\"\" \/>\n<\/div>\n<div class=\"e2-text-table\">\n<table cellpadding=\"0\" cellspacing=\"0\" border=\"0\">\n<tr>\n<td><b>Количество SD<\/b><\/td>\n<td style=\"text-align: right\"><b>-3,000<\/b><\/td>\n<td style=\"text-align: right\"><b>-2,576<\/b><\/td>\n<td style=\"text-align: right\"><b>-2,000<\/b><\/td>\n<td style=\"text-align: right\"><b>-1,960<\/b><\/td>\n<td style=\"text-align: right\"><b>-1,645<\/b><\/td>\n<td style=\"text-align: right\"><b>-1,282<\/b><\/td>\n<td style=\"text-align: right\"><b>1,282<\/b><\/td>\n<td style=\"text-align: right\"><b>1,645<\/b><\/td>\n<td style=\"text-align: right\"><b>1,960<\/b><\/td>\n<td style=\"text-align: right\"><b>2,000<\/b><\/td>\n<td style=\"text-align: right\"><b>2,576<\/b><\/td>\n<td style=\"text-align: right\"><b>3,000<\/b><\/td>\n<\/tr>\n<tr>\n<td><b>Вероятность накопленным итогом<\/b><\/td>\n<td style=\"text-align: right\">0,0013<\/td>\n<td style=\"text-align: right\">0,0050<\/td>\n<td style=\"text-align: right\">0,0228<\/td>\n<td style=\"text-align: right\">0,0250<\/td>\n<td style=\"text-align: right\">0,0500<\/td>\n<td style=\"text-align: right\">0,1000<\/td>\n<td style=\"text-align: right\">0,9000<\/td>\n<td style=\"text-align: right\">0,9500<\/td>\n<td style=\"text-align: right\">0,9750<\/td>\n<td style=\"text-align: right\">0,9772<\/td>\n<td style=\"text-align: right\">0,9950<\/td>\n<td style=\"text-align: right\">0,9987<\/td>\n<\/tr>\n<tr>\n<td><b>Вероятность в границах +\/- стольких SD<\/b><\/td>\n<td style=\"text-align: right\">-0,9973<\/td>\n<td style=\"text-align: right\">-0,9900<\/td>\n<td style=\"text-align: right\">-0,9545<\/td>\n<td style=\"text-align: right\">-0,9500<\/td>\n<td style=\"text-align: right\">-0,9000<\/td>\n<td style=\"text-align: right\">-0,8000<\/td>\n<td style=\"text-align: right\">0,8000<\/td>\n<td style=\"text-align: right\">0,9000<\/td>\n<td style=\"text-align: right\">0,9500<\/td>\n<td style=\"text-align: right\">0,9545<\/td>\n<td style=\"text-align: right\">0,9900<\/td>\n<td style=\"text-align: right\">0,9973<\/td>\n<\/tr>\n<\/table>\n<\/div>\n<p><a href=\"https:\/\/docs.google.com\/spreadsheets\/d\/1NyGMqQtVnRRNK06Wh2vR6R6e2M09Ao7LG5-2e3maLAk\/edit?usp=sharing\">График и данные<\/a> в Google Таблицах<\/p>\n",
            "date_published": "2020-04-05T15:06:07+03:00",
            "date_modified": "2020-04-05T14:13:50+03:00",
            "image": "https:\/\/mathandcoffee.ru\/pictures\/normal00.png",
            "_date_published_rfc2822": "Sun, 05 Apr 2020 15:06:07 +0300",
            "_rss_guid_is_permalink": "false",
            "_rss_guid": "41",
            "_e2_data": {
                "is_favourite": true,
                "links_required": [],
                "og_images": [
                    "https:\/\/mathandcoffee.ru\/pictures\/normal00.png"
                ]
            }
        },
        {
            "id": "16",
            "url": "https:\/\/mathandcoffee.ru\/all\/prodvinuty-sposob-rascheta-reytingov\/",
            "title": "Продвинутый способ расчета рейтингов",
            "content_html": "<p>Крайне любопытная статья на сайте EvanMiller.org, <a href=\"https:\/\/www.evanmiller.org\/ranking-items-with-star-ratings.html\" class=\"nu\">«<u>Ranking Items With Star Ratings<\/u>»<\/a>, предлагает <b>продвинутый способ расчета рейтингов,<\/b> например, по пятибалльной шкале.<\/p>\n<p>(Вообще, судя по интонации автора, история с рейтингами и методиками их расчета не так проста, как может показаться, и он <a href=\"https:\/\/www.evanmiller.org\/how-not-to-sort-by-average-rating.html\">неоднократно к ней возвращается<\/a>.)<\/p>\n<p>Из того, что удалось понять: во-первых, расчет <b>среднего рейтинга<\/b> не всегда позволяет однозначно определить место объекта относительно остальных объектов — например, средние рейтинги могут, банально, совпадать. Во-вторых, средний рейтинг не учитывает количество голосов, ведь по идее, чем больше голосов участвует в расчете рейтинга, тем надежнее этот рейтинг.<\/p>\n<p>Простой пример — оценки двух сотрудников:<\/p>\n<p>Осипов — 5, 5, 5, 5, 5, 2, 2, 2, 2, 2. <b>Среднее = 3,50.<\/b><br \/>\nСухонцев — 4, 4, 3, 3. <b>Среднее = 3,50.<\/b><\/p>\n<p>Неразрешимая, на первый взгляд, ситуация решается методами <a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%91%D0%B0%D0%B9%D0%B5%D1%81%D0%BE%D0%B2%D1%81%D0%BA%D0%B0%D1%8F_%D1%81%D1%82%D0%B0%D1%82%D0%B8%D1%81%D1%82%D0%B8%D0%BA%D0%B0\">байесовской статистики<\/a> (что бы конкретно это здесь ни значило), вуаля:<\/p>\n<p>Осипов — <b>2,72.<\/b><br \/>\nСухонцев — <b>2,63.<\/b><\/p>\n<p>Чудесным образом то ли меньшее среднеквадратичное отклонение (0,58 против 1,58), то ли меньшее количество оценок (4 против 10), то ли все они вместе <b>уточнили<\/b> средний рейтинг Сухонцева, отдав ему предпочтение в несколько сотых.<\/p>\n<h2>Формула продвинутого расчета среднего рейтинга<\/h2>\n<p>Приготовьтесь, будет немного больно.<\/p>\n<p>Итак, <a href=\"https:\/\/www.evanmiller.org\/ranking-items-with-star-ratings.html#setup\">предполагается<\/a>, что у нас есть <i><b>K<\/b><\/i> возможных оценок, считаемых по <i><b>k,<\/b><\/i> каждая оценка стоит <i><b>s<sub>k<\/sub><\/b><\/i> баллов («1» — это 1 балл, «2» — это 2 балла и т. д.). Имея <i><b>N<\/b><\/i> полученных оценок для каждого объекта, по <i><b>n<sub>k<\/sub><\/b><\/i> оценок для каждого <i><b>k,<\/b><\/i> можно посчитать рейтинг каждого объекта по формуле:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/ratings00.PNG\" width=\"835\" height=\"229\" alt=\"\" \/>\n<\/div>\n<p>Где <i><b>z<sub>α\/2<\/sub><\/b><\/i> это <i><b>1−α\/2<\/b><\/i> квантиль нормального распределения. Посчитанный рейтинг является нижней границей нормальной аппроксимации байесова доверительного интервала для среднего рейтинга. Принимая, например, α=0,10 (z=1,65), рассчитанный рейтинг <i><b>S<\/b><\/i> будет означать, что в 95% случаев средний рейтинг объекта будет выше <i><b>S<\/b><\/i>.<\/p>\n<p>Упрощая, «продвинутый» расчет среднего рейтинга позволяет дать прогноз возможной средней оценки, рассчитываемой традиционным путем. Ну и, следовательно, как показано выше, ранжировать объекты даже при формально одинаковой средней оценке.<\/p>\n<h2>Пример расчета продвинутого среднего рейтинга<\/h2>\n<p>Вооружившись 2000 оценок по пятибалльной шкале условных территориальных офисов продаж, я посчитал средний рейтинг каждого офиса обычным и «продвинутым» способом.<\/p>\n<div class=\"e2-text-picture\">\n<div class=\"fotorama\" data-width=\"455\" data-ratio=\"1.0859188544153\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/ratings01.PNG\" width=\"455\" height=\"419\" alt=\"\" \/>\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/ratings02.PNG\" width=\"455\" height=\"419\" alt=\"\" \/>\n<\/div>\n<div class=\"e2-text-caption\">Среднее 1.0 — средний рейтинг обычный, Среднее 2.0 — средний рейтинг продвинутый.<\/div>\n<\/div>\n<p>«Таганский» упал со 2-го на 4-е место по всей видимости, из-за того, что выборка в 66 оценок не дает достаточной уверенности в том, что его средний рейтинг действительно настолько высок, и в 90% случаев его рейтинг прогнозируется выше всего лишь 4,55, что примерно соответствует 4-му месту.<\/p>\n<p>«Академический» формально был на 13-м месте, но, благодаря надежным 249 оценкам, для него прогнозируется, в 90% случаев, средний рейтинг не ниже 4,4, что поднимает его до 10-го места.<\/p>\n<p>У меня сложилось ощущение, что формула более убедительно работает для коротких шкал оценок, как «от 1 до 5» в приведенном примере.<\/p>\n<p>В любом случае, делюсь <a href=\"https:\/\/docs.google.com\/spreadsheets\/d\/1Uh5ndL3rFjd9orZ5NCZFInuWN218LDO6N-D90Ih0THo\/edit?usp=sharing\">файлом в Google Таблицах<\/a> — по идее, он считает рейтинги для всех шкал «длиной» до 100 оценок включительно, позволяет импортировать до 10 000 строк с оценками и корректировать уровень достоверности (90% в нашем примере).<\/p>\n<h2>Cм. также<\/h2>\n<p><a href=\"https:\/\/www.evanmiller.org\/ranking-items-with-star-ratings.html\">https:\/\/www.evanmiller.org\/ranking-items-with-star-ratings.html<\/a><\/p>\n<p><a href=\"https:\/\/docs.google.com\/spreadsheets\/d\/1Uh5ndL3rFjd9orZ5NCZFInuWN218LDO6N-D90Ih0THo\/edit?usp=sharing\">Продвинутый способ расчета рейтинга<\/a> в Google Таблицах<\/p>\n",
            "date_published": "2019-09-21T15:59:00+03:00",
            "date_modified": "2019-09-21T16:01:59+03:00",
            "image": "https:\/\/mathandcoffee.ru\/pictures\/ratings00.PNG",
            "_date_published_rfc2822": "Sat, 21 Sep 2019 15:59:00 +0300",
            "_rss_guid_is_permalink": "false",
            "_rss_guid": "16",
            "_e2_data": {
                "is_favourite": false,
                "links_required": [
                    "system\/library\/jquery\/jquery.js",
                    "system\/library\/fotorama\/fotorama.css",
                    "system\/library\/fotorama\/fotorama.js"
                ],
                "og_images": [
                    "https:\/\/mathandcoffee.ru\/pictures\/ratings00.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/ratings01.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/ratings02.PNG"
                ]
            }
        },
        {
            "id": "31",
            "url": "https:\/\/mathandcoffee.ru\/all\/4-smski-za-4-smski-protiv\/",
            "title": "4 смски «за», 4 смски «против»",
            "content_html": "<p>Недавно слушал «Вести ФМ», где обсуждались итоги <a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%95%D0%B4%D0%B8%D0%BD%D1%8B%D0%B9_%D0%B4%D0%B5%D0%BD%D1%8C_%D0%B3%D0%BE%D0%BB%D0%BE%D1%81%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D1%8F_8_%D1%81%D0%B5%D0%BD%D1%82%D1%8F%D0%B1%D1%80%D1%8F_2019_%D0%B3%D0%BE%D0%B4%D0%B0\">единого дня голосования 8 сентября<\/a>.<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/4smski05.JPG\" width=\"1230\" height=\"601\" alt=\"\" \/>\n<\/div>\n<p>Меня заинтересовала следующая реплика ведущего, <a href=\"https:\/\/youtu.be\/tOUSxbWdSuY?t=6305\">с 01:45:05<\/a>:<\/p>\n<blockquote>\n<p><i>Кстати, вот, слушатели из того же Хабаровского края пишут и, примерно, по количеству смсок делятся «50 на 50». 50% считают, что они позитивный выбор совершили, а 50% считают, что стало хуже, и это был негативный выбор. Это, понятно, не социологическое исследование. Ну, вот, просто я вижу десяток, восемь, где-то, смсок, и они примерно пополам делятся. Тоже любопытно.<\/i><\/p>\n<\/blockquote>\n<p>К чести ведущего, абсолютно корректное замечание-«дисклеймер», что это не «социологическое исследование». И все же, что можно сказать о том, как, <i>в реальности,<\/i> делятся голоса, если у вас в наличии только 4 смски «за» и 4 смски «против»? Насколько соотношение «50 на 50», полученное на выборке в 8 смсок, подтверждает ровно то же самое распределение голосов <i>в генеральной совокупности?<\/i><\/p>\n<h2>Считаем в Гугл Таблицах<\/h2>\n<p>Быстро воспроизводим эксперимент в Гугл Таблицах:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/4smski00.PNG\" width=\"381\" height=\"191\" alt=\"\" \/>\n<\/div>\n<p>Итак, в тот день 4 человека прислали смски «за», 4 человека прислали смски «против». Логично предположить, что день на день не приходится, и сегодня это были одни слушатели, завтра смски будут присылать другие слушатели, и соотношение сил может быть «3 к 5», «5 к 3», «2 к 6» или «7 к 1» — любое сочетание теоретически возможно. Однако, если мы предполагаем, что взгляды аудитории делятся поровну, то чуть более вероятны сценарии «4 к 4», «3 к 5» или «5 к 3», а сценарии «8 к 0» или «1 к 7», например, менее вероятны.<\/p>\n<p>Технически, мы имеем дело с <i>биномиальным распределением<\/i> — из 8 смсок мы <i>ожидаем<\/i> получить 4 смски «за», но не знаем наверняка, сколько их будет. Вероятность получить смску «за» равна 50% (допустим, что ровно 50% аудитории — «за»), в этом случае <b><i>стандартная ошибка (SD,<\/i><\/b> или <b><i>&sigma;)<\/i><\/b> биномиального распределения рассчитывалась бы по формуле:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn.png\" width=\"201\" height=\"77\" alt=\"\" \/>\n<\/div>\n<p>где <b><i>p<\/i><\/b> = 50%, а <b><i>n<\/i><\/b> = 8.<\/p>\n<p>Считаем:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/4smski01.PNG\" width=\"384\" height=\"231\" alt=\"\" \/>\n<\/div>\n<p>Получается, если вероятность получить смску «за» равняется 50%, то стандартное отклонение при выборке в 8 смсок <b>равняется 17,68%!<\/b><\/p>\n<p>Что же это означает на практике?<\/p>\n<p>Это означает, что, поскольку имеющаяся выборка (8 смсок) крайне мала, доля случайности в нашем результате «4 „за“, 4 „против“», наоборот, крайне велика, и мы не можем уверенно говорить о строгом распределении голосов «50 на 50» среди всей аудитории «Вести ФМ». Единственное, что мы можем утверждать более-менее точно, это то,  что истинная доля голосов «за» лежит <b><i>в некотором интервале<\/i><\/b> вокруг 50%. И величина этого интервала будет тем шире, чем больше мы захотим быть уверены в его надежности.<\/p>\n<p>Предположим, мы хотим быть уверены в нашем доверительном интервале на 90%. (Оставляем себе право на ошибку в 10% случаев, другими словами). Согласно законам <i>нормального распределения<\/i> (а биномиальное распределение — это частный случай нормального), данный интервал <b>определяется как 50%&plusmn;1,645SD.<\/b><\/p>\n<p>Такое несложно рассчитать в Гугл Таблицах:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/4smski03.PNG\" width=\"379\" height=\"246\" alt=\"\" \/>\n<\/div>\n<p>Получается, что истинная доля голосов «за» лежит в интервале 50%&plusmn;29,08%, <b>т. е. от 20,92% до 79,08%.<\/b> Примерно вот так это выглядит:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/4smski02.PNG\" width=\"789\" height=\"368\" alt=\"\" \/>\n<\/div>\n<p>Значит, мы и близко не можем говорить о том, что «слушатели ... примерно ... делятся 50 на 50»! В лучшем случае (даже оставляя 10% на то, что мы ошибемся), <b>мы можем говорить лишь об интервале от 21% до 79%.<\/b><\/p>\n<h2>Уточнение расчетов<\/h2>\n<p>Однако, интервал <b><i>p<\/i>&plusmn;1,645<i>SD<\/i><\/b> тоже является достаточно грубой оценкой. Существуют более сложные, и немного более точные, способы оценить границы интервалов.<\/p>\n<p>Воспользовавшись <a href=\"https:\/\/www.wolframalpha.com\/input\/?i=binomial+distribution+confidence+interval\">калькулятором Wolfram Alpha<\/a>, можно получить следующие границы интервала:<\/p>\n<div class=\"e2-text-table\">\n<table cellpadding=\"0\" cellspacing=\"0\" border=\"0\">\n<tr>\n<td style=\"text-align: left\">Clopper-Pearson confidence interval for a binomial parameter<\/td>\n<td style=\"text-align: right\">0,1929<\/td>\n<td style=\"text-align: right\">0,8071<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: left\">Wilson score confidence interval for a binomial parameter with continuity correction<\/td>\n<td style=\"text-align: right\">0,2034<\/td>\n<td style=\"text-align: right\">0,7966<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: left\">standard confidence interval for a binomial parameter<\/td>\n<td style=\"text-align: right\">0,2092<\/td>\n<td style=\"text-align: right\">0,7908<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: left\">Jeffreys confidence interval for a binomial parameter<\/td>\n<td style=\"text-align: right\">0,2393<\/td>\n<td style=\"text-align: right\">0,7607<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: left\">Wilson score confidence interval for a binomial parameter<\/td>\n<td style=\"text-align: right\">0,2486<\/td>\n<td style=\"text-align: right\">0,7514<\/td>\n<\/tr>\n<tr>\n<td style=\"text-align: left\">Agresti-Coull confidence interval for a binomial parameter<\/td>\n<td style=\"text-align: right\">0,2486<\/td>\n<td style=\"text-align: right\">0,7514<\/td>\n<\/tr>\n<\/table>\n<\/div>\n<h2>Ну а если хотим, хотя бы, 45-55% получить?<\/h2>\n<p>Вот еще интересно: на какого размера выборке, если голоса в ней по-прежнему делятся строго «50 на 50», мы сможем говорить о доверительном интервале, суженном хотя бы до 45-55%?<\/p>\n<p>Рассчитать такое несложно. Если речь идет об интервале 50%&plusmn;5%, (и мы продолжаем придерживаться уровня уверенности в результате, равном нашим любимым 90%), то 5% должны составлять 1,645 стандартных отклонений (SD). Отсюда, SD = 3,04%. По формуле стандартного отклонения:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/4smski04.png\" width=\"270\" height=\"58\" alt=\"\" \/>\n<\/div>\n<p>откуда несложно найти n = 270,6. Получается, нужно 270-272 смски с распределением голосов строго пополам, чтобы говорить об интервале от 45% до 55% с уровнем уверенности 90%.<\/p>\n<h2>См. также<\/h2>\n<p><a href=\"https:\/\/en.wikipedia.org\/wiki\/Binomial_proportion_confidence_interval\">https:\/\/en.wikipedia.org\/wiki\/Binomial_proportion_confidence_interval<\/a><br \/>\n<a href=\"https:\/\/www.wolframalpha.com\/input\/?i=binomial+distribution+confidence+interval&assumption=%22FSelect%22+-%3E+%7B%7B%22BinomialInterval%22%7D%7D&assumption=%7B%22F%22%2C+%22BinomialInterval%22%2C+%22phat%22%7D+-%3E%220.5%22&assumption=%7B%22F%22%2C+%22BinomialInterval%22%2C+%22c%22%7D+-%3E%220.9%22&assumption=%7B%22F%22%2C+%22BinomialInterval%22%2C+%22n%22%7D+-%3E%228%22\">Калькулятор на WolframAlpha.com<\/a><br \/>\n<a href=\"https:\/\/cyberleninka.ru\/article\/n\/doveritelnye-intervaly-dlya-chastot-i-doley.pdf\">https:\/\/cyberleninka.ru\/article\/n\/doveritelnye-intervaly-dlya-chastot-i-doley.pdf<\/a><br \/>\n<a href=\"http:\/\/italylov.ru\/blog\/all\/ctatisticheskaya-dostovernost-koltrekinga\/\">Cтатистическая достоверность для застройщиков<\/a><\/p>\n",
            "date_published": "2019-09-16T20:03:11+03:00",
            "date_modified": "2019-09-16T20:37:32+03:00",
            "image": "https:\/\/mathandcoffee.ru\/pictures\/4smski05.JPG",
            "_date_published_rfc2822": "Mon, 16 Sep 2019 20:03:11 +0300",
            "_rss_guid_is_permalink": "false",
            "_rss_guid": "31",
            "_e2_data": {
                "is_favourite": false,
                "links_required": [],
                "og_images": [
                    "https:\/\/mathandcoffee.ru\/pictures\/4smski05.JPG",
                    "https:\/\/mathandcoffee.ru\/pictures\/4smski00.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/CodeCogsEqn.png",
                    "https:\/\/mathandcoffee.ru\/pictures\/4smski01.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/4smski03.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/4smski02.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/4smski04.png"
                ]
            }
        },
        {
            "id": "21",
            "url": "https:\/\/mathandcoffee.ru\/all\/v-kazhdom-pyatom-zvonke-problemy-proveryaem\/",
            "title": "«В каждом пятом» звонке проблемы, проверяем",
            "content_html": "<p>На днях пришел в голову такой пример: предположим, подрядчик жалуется <b>на плохую связь «в каждом пятом» звонке.<\/b><\/p>\n<p>Наша задача проверить, <b>справедлива ли гипотеза, что 20% звонков имеют проблемы со связью.<\/b> Причем, как всегда, мы не просто сделаем 100 тестовых звонков (на это у нас нет ресурсов), а сформулируем нулевую гипотезу, альтернативную гипотезу, и проверим ее с заданным уровнем достоверности.<\/p>\n<h2>Выдвигаем гипотезу и определяем уровень достоверности<\/h2>\n<p><b>Нулевой гипотезой <i>(H<sub>0<\/sub>)<\/i><\/b> пусть будет предположение, что со связью все в порядке, или, по крайней мере, проблемы встречаются реже, чем в 20% звонков.<\/p>\n<p><b>Альтернативной гипотезой <i>(H<sub>1<\/sub>),<\/i><\/b> которую мы будем проверять, пусть будет предположение подрядчика, что в каждом пятом звонке наблюдаются помехи. То есть, по крайней мере, в 20% звонков есть проблемы со связью.<\/p>\n<p><b>Уровень достоверности<\/b> — это наша уверенность в результатах эксперимента. Чем он выше, тем больше придется сделать проверочных звонков, поэтому мы заложим 1% на возможную ошибку, и выберем уровень достоверности в 99% (1%, что, если даже эксперимент не подтвердит проблем со связью, они, в действительности, могут быть).<\/p>\n<h2>Cобираем формулу для расчета выборки<\/h2>\n<p>Предположим, цель эксперимента — <i>опровергнуть<\/i> альтернативную гипотезу H<sub>1<\/sub> («есть проблемы»), подтвердив нулевую гипотезу H<sub>0<\/sub> («все в порядке»). Чтобы сделать это, нам будет достаточно продемонстрировать N подряд успешных звонков без признаков проблем со связью, при этом допуская вероятность, равную или меньше 1%, что нам просто повезет, и, при наличии, в действительности, проблем с оборудованием, они случайно не проявят себя ни в одном из N звонков.<\/p>\n<p>Из предположения подрядчика вытекает, что 80% звонков не имеют проблем. Вероятность отсутствия сбоев в N звонках подряд равна 0,80<sup>N<\/sup>. Нам нужно подобрать минимальное N, при котором вероятность упадет до 1%: 0,80<sup>N<\/sup> = 1%<\/p>\n<p>Получается, нам нужно вычислить логарифм 1% по основанию 80%!<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/every5th01.PNG\" width=\"223\" height=\"36\" alt=\"\" \/>\n<\/div>\n<p>Загружаем в Гугл Таблицы:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/every5th00.PNG\" width=\"366\" height=\"320\" alt=\"\" \/>\n<\/div>\n<p>Формула для ячейки C5 будет выглядеть как<\/p>\n<pre class=\"e2-text-code\"><code class=\"\">=LOG(1-C2;1-C3)<\/code><\/pre><div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/every5th02.PNG\" width=\"373\" height=\"262\" alt=\"\" \/>\n<\/div>\n<p>Нужно сделать 20,64 звонка. (Проверяем: 0,80<sup>20,64<\/sup> = 0,9995%, идеально.)<\/p>\n<p>Остается только добавить округление:<\/p>\n<pre class=\"e2-text-code\"><code class=\"\">=ОКРУГЛВВЕРХ(C5)<\/code><\/pre><p>или сразу<\/p>\n<pre class=\"e2-text-code\"><code class=\"\">=ОКРУГЛВВЕРХ(LOG(1-C2;1-C3))<\/code><\/pre><div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/every5th03.PNG\" width=\"366\" height=\"266\" alt=\"\" \/>\n<\/div>\n<h2>Проверяем гипотезу<\/h2>\n<p>Если альтернативная гипотеза <i>H<sub>1<\/sub><\/i> нашего подрядчика верна, и мы испытываем проблемы со связью в каждом пятом звонке, то, вероятность не заметить проблем в 21 тестовом звонке подряд составляет порядка 1%. Иными словами, либо это крайне редкое совпадение (1%), либо альтернативная гипотеза о проблемах в 20% звонков неверна (99%), и мы оставляем нулевую гипозеу <i>H<sub>0<\/sub><\/i>. <b>С вероятностью 99% мы уверены, что проблем со связью не наблюдается.<\/b><\/p>\n",
            "date_published": "2019-06-09T16:45:58+03:00",
            "date_modified": "2019-06-22T14:49:54+03:00",
            "image": "https:\/\/mathandcoffee.ru\/pictures\/every5th01.PNG",
            "_date_published_rfc2822": "Sun, 09 Jun 2019 16:45:58 +0300",
            "_rss_guid_is_permalink": "false",
            "_rss_guid": "21",
            "_e2_data": {
                "is_favourite": false,
                "links_required": [
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css"
                ],
                "og_images": [
                    "https:\/\/mathandcoffee.ru\/pictures\/every5th01.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/every5th00.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/every5th02.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/every5th03.PNG"
                ]
            }
        },
        {
            "id": "12",
            "url": "https:\/\/mathandcoffee.ru\/all\/kachestvo-zvonkov-skolko-proslushat\/",
            "title": "Качество звонков: сколько нужно прослушать",
            "content_html": "<p>Распространенным инструментом оценки качества работы менеджеров отдела продаж является <b>аудит качества телефонных звонков,<\/b> «прослушка».<\/p>\n<p>Предположим, вы задались целью не просто <b>замерить<\/b> качество телефонных звонков, но <b>зафиксировать <i>рост<\/i> этого качества.<\/b> Например, провели обучение (тренинг) менеджеров, либо предложили новую мотивацию за соблюдение стандартов качества, либо что-то еще.<\/p>\n<p>Логично предположить, что рост качества в первом попавшемся, после тренинга, звонке, не будет однозначно свидетельствовать о росте качества в остальных звонках. Скорее всего, и второй удачный звонок тоже однозначно не подтвердит гипотезу, что качество выросло.<\/p>\n<p>Таким образом, речь будет идти о том, что вам придется прослушать если не все, то, по крайней мере, достаточное число звонков после введенных вами изменений, и число звонков, которые необходимо будет прослушать, на самом деле, <b>можно однозначно рассчитать.<\/b><\/p>\n<h2>Считаем размер выборки<\/h2>\n<p>На 15-й странице работы «<a href=\"https:\/\/people.ucsc.edu\/~dgbonett\/docs\/wrkshp\/LectureNotes.pdf\">Планирование размеров выборки для исследований в бихевиоризме<\/a>» мне попался подходящий пример 2.4 и формула для расчета таких выборок:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/samplesize00.PNG\" width=\"858\" height=\"506\" alt=\"\" \/>\n<\/div>\n<p>В данном примере рассматривается изменение оценки <a href=\"https:\/\/ru.wikipedia.org\/wiki\/ACT\">ACT<\/a>-теста по математике с 24,5 (дисперсия 8,2) до 26,0 баллов при &alpha; = 0,05 и мощности = 0,90.<\/p>\n<p>Для удобства работы, я собрал приведенную формулу в Гугл-таблицах:<br \/>\n<a href=\"https:\/\/docs.google.com\/spreadsheets\/d\/1c1J88P0i0gmDFpOtfDIkPt-C0HKJOWACbSWVZTx2kL8\/edit?usp=sharing\">Калькулятор размера выборки<\/a><\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/samplesize01.PNG\" width=\"865\" height=\"346\" alt=\"\" \/>\n<\/div>\n<p>Вам остается скопировать файл, и можете подставлять нужные вам значения. Достоверность разумно выбирать от 80% до 95%, значение мощности — от 60% до 80%. Указываете средний балл оценки звонков до изменений, стандартное отклонение (SD) оценки звонков «до», и ожидаемый средний балл оценки звонков после изменений.<\/p>\n<h2>Верификация полученных результатов<\/h2>\n<p>Важно понимать, что, даже прослушав требуемое количество звонков «после», все равно необходимо проверять наличие статистически значимых различий через <a href=\"http:\/\/n4d-d.xyz\/all\/a-b-test-maksimalno-prosto\/\">калькулятор А\/Б-тестов<\/a>.<\/p>\n<h2>См. также:<\/h2>\n<p><a href=\"https:\/\/habr.com\/ru\/post\/339798\/\">https:\/\/habr.com\/ru\/post\/339798\/<\/a><br \/>\n<a href=\"https:\/\/people.ucsc.edu\/~dgbonett\/docs\/wrkshp\/LectureNotes.pdf\">https:\/\/people.ucsc.edu\/~dgbonett\/docs\/wrkshp\/LectureNotes.pdf<\/a><\/p>\n",
            "date_published": "2019-05-26T16:46:00+03:00",
            "date_modified": "2026-04-18T14:39:56+03:00",
            "image": "https:\/\/mathandcoffee.ru\/pictures\/samplesize00.PNG",
            "_date_published_rfc2822": "Sun, 26 May 2019 16:46:00 +0300",
            "_rss_guid_is_permalink": "false",
            "_rss_guid": "12",
            "_e2_data": {
                "is_favourite": false,
                "links_required": [],
                "og_images": [
                    "https:\/\/mathandcoffee.ru\/pictures\/samplesize00.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/samplesize01.PNG"
                ]
            }
        },
        {
            "id": "5",
            "url": "https:\/\/mathandcoffee.ru\/all\/t-kriteriy-styudenta\/",
            "title": "t-Критерий Стьюдента",
            "content_html": "<p>Если однажды перед вами оказывались два набора похожих данных, вам, вероятно, приходило в голову задаться вопросом: насколько эти данные различаются между собой? Или, что еще более важно, наблюдаются ли <i>статистически значимые<\/i> различия между этими выборками?<\/p>\n<p>Поясню, о чем идет речь.<\/p>\n<p>Допустим, вы проанализировали звонки за прошедший год и обратили внимание, что <b>среднее время звонка в первой половине дня — 2 мин 45 сек, а во второй половине дня — 2 мин 57 сек.<\/b> Следует ли из этого, что звонки после обеда в среднем длятся дольше? Или это простое совпадение, и, возьми вы звонки за год до этого, вы бы увидели другую картину?<\/p>\n<p>Или, например, вы замеряли уровень гемоглобина у контрольной группы до начала исследований нового лекарства, и после. Предположим, <b>средний уровень вырос с 142,5 г\/л до 147,1 г\/л.<\/b> Достаточно ли опираться на увеличение среднего, чтобы сделать заключение об эффективности лекарства? Или, возможно, исследование нужно повторить? Увеличив размер контрольной группы, например?<\/p>\n<p>Уже из постановки вопроса очевидно, что <b>одной разницы между средними в двух выборках недостаточно, чтобы научно подтвердить их различие.<\/b><\/p>\n<p>Вот почему мы обратимся к <b>формуле расчета<\/b> и <b>таблице значений t-критериев Стьюдента,<\/b> чтобы научиться делать <i>математически корректные<\/i> выводы о <i>статистически значимых<\/i> различиях между двумя выборками. Или, другими словами, научиться видеть разницу, когда она не заметна, или игнорировать ее, даже если кажется, что она есть.<\/p>\n<p>Рассмотрим вопрос на примере.<\/p>\n<h2>Анализ длительности звонков Асланян и Евтушенко<\/h2>\n<p>В вашем отделе продаж работают 2 менеджера — Ольга Асланян и Кирилл Евтушенко. Вы получили данные по длительности их разговоров с покупателями и хотите проверить гипотезу, что разговоры Асланян в среднем длятся дольше разговоров Евтушенко.<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/student01.PNG\" width=\"694\" height=\"474\" alt=\"\" \/>\n<\/div>\n<p>Посчитаем среднюю длительность звонка, стандартное отклонение и число звонков, которые попали в выборке.<\/p>\n<pre class=\"e2-text-code\"><code class=\"\">=СРЗНАЧ(B2:B999)<\/code><\/pre><pre class=\"e2-text-code\"><code class=\"\">=СТАНДОТКЛОН(B2:B999)<\/code><\/pre><pre class=\"e2-text-code\"><code class=\"\">=СЧЁТ(B2:B999)<\/code><\/pre><div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/student02.PNG\" width=\"696\" height=\"403\" alt=\"\" \/>\n<\/div>\n<p>В среднем, звонки Асланян длятся на 34,5 сек дольше звонков Евтушенко. (Кроме того, разброс длительности ее звонков больше, т. к. больше стандартное отклонение. Грубо говоря, короткие и длинные звонки у Асланян найти проще, чем у Евтушенко).<\/p>\n<p>Достаточно ли полученных данных, чтобы сделать вывод о правильности гипотезы, что Асланян в среднем дольше общается с клиентами, чем Евтушенко? На самом деле, нет. Всегда существует вероятность, что в выборку Асланян случайно попали более длинные звонки, а в выборку Евтушенко — более короткие. Чем больше звонков доступно для анализа (а нам достались 242 и 209 звонков, что не так уж и мало), тем более надежен результат, но он никогда не надежен на 100%.<\/p>\n<p>Впрочем, надежность 100% нам и не нужна. Не ракету к Марсу запускаем. Даже если нам удастся проверить нашу гипотезу с вероятностью 90-95%, этого будет вполне достаточно для большинства случаев. Пускай мы оставим себе шанс ошибиться в 5-10% случаев, зато нам не нужно будет ждать несколько лет, чтобы накопить достаточно данных для анализа, и управленческие решения (разбор звонков с менеджером, анализ продаж, корректировки скриптов) мы сможем принять уже сейчас.<\/p>\n<p>Рассмотрим два способа, как нам проверить, случайность ли, что звонки Асланян в среднем длиннее звонков Евтушенко.<\/p>\n<h2>Проверка гипотезы о равенстве среднего. Простой способ<\/h2>\n<p>И в Google Таблицах, и в Microsoft Excel, есть <b>функция ТТЕСТ.<\/b> Воспользуемся ей для анализа наших выборок.<\/p>\n<pre class=\"e2-text-code\"><code class=\"\">=ТТЕСТ(B2:B999;C2:C999;2;3)<\/code><\/pre><p>У функции 4 атрибута, идущие через точку с запятой.<\/p>\n<ol start=\"1\">\n<li>Диапазон ячеек, содержащих первую выборку.<\/li>\n<li>Диапазон ячеек, содержащих вторую выборку.<\/li>\n<li>Количество хвостов распределения. Выбираем «2», чтобы проверить наличие различий вообще, и «1», чтобы проверить, звонки Асланян длиннее, а не наоборот.<\/li>\n<li>Тип применения t-критерия. По умолчанию выбираем «3». («2» выбираем если стандартные отклонения очень близки, «1» — если, например, вы сравниваете средний балл <i>одних и тех же учеников<\/i> на начало и конец года попарно.)<\/li>\n<\/ol>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/student03.PNG\" width=\"694\" height=\"429\" alt=\"\" \/>\n<\/div>\n<p>Итак, Т-тест дал вероятность 0,04595, или, округленно, 4,6%.<\/p>\n<p>Что же это за вероятность? В нашем примере это вероятность того, <b>что статистически значимые различия между звонками Асланян и Евтушенко отсутствуют.<\/b> Технически, это вероятность, что наша «нулевая гипотеза» («нет разницы между выборками») была верна, а «альтернативная» («Асланян общается с покупателями дольше Евтушенко») — неверна.<\/p>\n<p>Оставшиеся 95,4% составляют вероятность того, что между выборками есть статистические различия, и «альтернативная гипотеза» о различиях между выборками верна.<\/p>\n<p><b>Вывод: с вероятностью 95,4% Асланян, действительно, в среднем общается с клиентами дольше Евтушенко. (С вероятностью 4,6% статистически значих различий между их звонками нет).<\/b><\/p>\n<h2>Проверка гипотезы о равенстве среднего. Сложный способ<\/h2>\n<p>Сложный способ будет состоит из двух этапов: расчет t-критерия Стьюдента и сравнение полученного значения t-критерия с контрольным.<\/p>\n<p>На первом этапе рассчитаем t-критерий Стьюдента по следующей формуле:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/kriteriy_styudenta.jpg\" width=\"247\" height=\"157\" alt=\"\" \/>\n<\/div>\n<p>X<sub>1<\/sub> и X<sub>2<\/sub> — средняя длина звонков в первой и второй выборке (238,6 сек и 204,1 сек)<br \/>\ns<sub>1<\/sub> и s<sub>2<\/sub> — стандартные отклонения первой и второй выборок в квадрате (их дисперсии, другими словами) (201,2<sup>2<\/sup> и 164,7<sup>2<\/sup> для наших выборок)<br \/>\nn<sub>1<\/sub> и n<sub>2<\/sub> — число звонков в первой и второй выборках (242 и 209 звонков)<\/p>\n<p>Воспользуемся листочком бумаги и калькулятором, или же посчитаем все прямо в Google Таблицах:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/student04.PNG\" width=\"751\" height=\"372\" alt=\"\" \/>\n<\/div>\n<pre class=\"e2-text-code\"><code class=\"\">=(F2-G2)\/КОРЕНЬ(F3^2\/F4+G3^2\/G4)<\/code><\/pre><p>t-Критерий равен 2,0014.<\/p>\n<p>Осталось разобраться, что делать с вычисленным значением нашего t-критерия.<\/p>\n<p>Но перед этим посчитаем число степеней свободы по формуле n<sub>1<\/sub>+n<sub>2<\/sub>-2:<\/p>\n<p>242 + 209 — 2 = 449 степеней свободы<\/p>\n<p>Воспользуемся теперь <a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9A%D0%B2%D0%B0%D0%BD%D1%82%D0%B8%D0%BB%D0%B8_%D1%80%D0%B0%D1%81%D0%BF%D1%80%D0%B5%D0%B4%D0%B5%D0%BB%D0%B5%D0%BD%D0%B8%D1%8F_%D0%A1%D1%82%D1%8C%D1%8E%D0%B4%D0%B5%D0%BD%D1%82%D0%B0\">таблицей коэффициентов Стьюдента<\/a> из Википедии, найдя строку, соответствующую нашим 449 степеням свободы.<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/student05.PNG\" width=\"1302\" height=\"88\" alt=\"\" \/>\n<\/div>\n<p>В нашем случае, строки именно для числа 449 нет, зато несложно заметить, что значения для 100 и 1000 — ближайших подходящих строк — отличаются на сотые доли, поэтому для большого числа степеней свободны подойдет любая строка.<\/p>\n<p>Наше значение 2,0014 находится между 1,9623 и 2,3301: 1,9623 < 2,0014 < 2,3301<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/student05.PNG\" width=\"1302\" height=\"88\" alt=\"\" \/>\n<\/div>\n<p>В шапке таблицы это соответствует 95%-му и 98%-му квантилю распределения Стьюдента, т. е. мы захватили 95%-й квантиль, но не захватили 98%-й:<\/p>\n<div class=\"e2-text-picture\">\n<img src=\"https:\/\/mathandcoffee.ru\/pictures\/student06.PNG\" width=\"1303\" height=\"90\" alt=\"\" \/>\n<\/div>\n<p><b>Если расчетное значение t-критерия Стьюдента больше контрольного, значит, «альтернативная гипотеза» верна с соответствующей вероятностью (95%), и выборки статистически различаются.<\/b><\/p>\n<p>Если бы мы получили значение t-критерия больше, чем 2,3301 (98%), мы бы могли говорить по правильности «альтернативной гипотезы» уже с 98%-й вероятностью. Аналогично, если бы мы получили значение t-критерия меньше, чем 1,9623 (95%), но больше 1,6464 (90%), мы бы говорили о правильности гипотезы на 90%.<\/p>\n<p><b>Вывод: расчетное значение t-критерия Стьюдента 2,0014 соответствует, по меньшей мере, 95% уверенности в том, что между выборками есть статистически значимые различия, и звонки Асланян, действительно, в среднем длиннее звонков Евтушенко.<\/b><\/p>\n<p>Наша «альтернативная гипотеза» получила 95%-ое подтверждение, мы можем быть уверены в результате и принимать решение о дальнейшей работе с полученный информацией.<\/p>\n<h2>Полезные ссылки<\/h2>\n<p><a href=\"http:\/\/www.evanmiller.org\/ab-testing\/t-test.html\">http:\/\/www.evanmiller.org\/ab-testing\/t-test.html<\/a><\/p>\n",
            "date_published": "2019-04-15T11:44:02+03:00",
            "date_modified": "2019-06-15T13:52:59+03:00",
            "image": "https:\/\/mathandcoffee.ru\/pictures\/student01.PNG",
            "_date_published_rfc2822": "Mon, 15 Apr 2019 11:44:02 +0300",
            "_rss_guid_is_permalink": "false",
            "_rss_guid": "5",
            "_e2_data": {
                "is_favourite": false,
                "links_required": [
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css",
                    "system\/library\/highlight\/highlight.js",
                    "system\/library\/highlight\/highlight.css"
                ],
                "og_images": [
                    "https:\/\/mathandcoffee.ru\/pictures\/student01.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/student02.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/student03.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/kriteriy_styudenta.jpg",
                    "https:\/\/mathandcoffee.ru\/pictures\/student04.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/student05.PNG",
                    "https:\/\/mathandcoffee.ru\/pictures\/student06.PNG"
                ]
            }
        }
    ],
    "_e2_version": 3565,
    "_e2_ua_string": "E2 (v3565; Aegea)"
}