В нашем примере это утверждение о том, что новый CTR будет больше старого. Проверка гипотез в статистике — это способ проверить результаты исследования, чтобы понять, есть ли у вас какие-либо существенные результаты. Наиболее важные и запутанные аспекты проверки гипотез — это определение Тестировщик нулевой и альтернативной гипотез. Затем выбираются метрики для измерения уровня вовлеченности пользователей. В нашем примере метрикой будет служить кликабельность кнопки «Buy Now».
Как расставлять приоритеты гипотез при A/B-тестировании
Метод часто используется в веб-дизайне, типичные применения — исследование влияния цветовой схемы, расположения и размера элементов интерфейса на что такое аб тестирование сайта конверсию сайта[5]. В веб-дизайне часто тестируются две очень похожие веб-страницы (страница А и страница В), которые различаются лишь одним элементом или несколькими элементами (тогда метод называют A/B/n-тестированием). Страницы А и В показываются различным пользователям в равных пропорциях, при этом посетители, как правило, не знают об этом. По прошествии определённого времени или при достижении достаточно большого числа показов, сравниваются числовые показатели цели и определяется наиболее подходящий вариант страницы. Преимуществом метода является использование при проектировании объективных данных[4]. A/B-тестирование (англ. A/B testing, Split testing) — метод маркетингового исследования, позволяющий на основе статистики оценить влияние изменения на метрики продукта.
Статистическая значимость теста
Пример классического A/B-тестирования — тестирование страницы на сайте с разными кнопками призыва к действию. Если вариантов страниц больше, процесс называют A/B/N-тестированием. Если https://deveducation.com/ аудитория не растет, а замена кнопок не помогает, то стоит задуматься об изменении условий пользования. Один из трюков, которые применяют маркетологи, – триал, то есть пробный период.
Распространенные ошибки в проведении исследования
Тогда он создает лендинг Б с другими кнопками и разделяет трафик между вариантами А и Б. Таким образом, удается проверить появившуюся теорию и выяснить, действительно ли кнопки другого цвета могут повысить продажи. Выясняем, как и зачем тестировать разные варианты страниц и почему это критически важно для повышения конверсии и прибыльности сайта. Изучение поведения пользователей на сайте помогает сделать интерфейс более удобным, повысить продажи и улучшить позиции сайта в выдаче.
Дополнительно отслеживайте другие метрики — время пользователей на сайте, например. Это поможет в дальнейшем собрать более полную картину исследования. При исследовании можно выбирать только один параметр, иначе тестирование не будет достоверным.
В итоге удается по крупицам выжать из первоначального дизайна максимальный доход (естественно, по ходу дела всячески меняя его и дополняя). По названию можно предположить, что идет тестирование каких-то двух объектов. В нашем случае речь будет идти про веб-сайты, но описываемую методику можно применить к интерфейсам приложений, почтовым рассылкам, лендингам и т.п. Здесь самые расширенные возможности таргетинга среди популярных сервисов — до 35 параметров. Convert поддерживает интеграцию с GA. Программа может применяться для проведения сплит-тестов, мультивариантных и мультистраничных исследований. Поддерживает работу с аудиторией до 1,2 млрд посетителей — это приблизительно 1/7 всего населения планеты.
Звучит сложно, поэтому давайте разберем терминологию и ее значение подробнее. Для сплит-тестирования делим трафик поровну между вариантом Б и исходной страницей А. Формулируем свое видение об одном, максимум двух изменениях, которые улучшат коэффициент конверсии страницы и ее производительность.
Пробуйте разное количество вхождений ключевых слов и проверяйте, какая из стратегий написаний текстов работает лучше. Если еще задаетесь вопросом, нужно ли вам A/B-тестирование, то спросите себя, должен ли ваш сайт приносить больше прибыли. Если ответ положительный, то и ответ на этот вопрос будет положительным. В постановке целей добавляют основную метрику, изменения которой будут отслеживаться.
Считается, что продолжительность набора статистики по каждому варианту должна составлять не менее 7-10 дней. Только тогда можно с уверенностью говорить, что полученные данные — не результат случайности или влияния каких-то внешних факторов. Предположим, изменение цвета приведет к тому, что кнопка будет больше бросаться в глаза и по ней начнут чаще кликать.
- Определившись с задачей и элементом, над которым будет проводиться эксперимент, переходим к разработке этого элемента.
- Например, проведите A/B-тестирование с Google Analytics — если их счетчики установлены у вас на сайте.
- Этот сервис «дружит» c GA и может получать данные прямо из аккаунта аналитики.
- Существует несколько инструментов, упрощающих работу исследователей.
- В остальных случаях можно использовать вариант A/В тестирование.
- Он полностью бесплатный и может использоваться как на лендингах, так и на отдельной странице обычного сайта.
Как мы уже рекомендовали ранее, добавьте отслеживание дополнительных значений — их изменения тоже можно использовать в отчете и для составления дальнейших гипотез. В ходе оценки измеряют, как влияет изменение одного параметра на эффективность — дочитывания, время пользователя на сайте, использование форм обратной связи и так далее. Перевод статьи подготовлен в преддверии старта курса “Промышленный ML на больших данных”.
Никаких абстрактных «увеличить продажи» или «остановить падение количества регистраций». Смотрите на показатели страницы и думаете, в какую сторону их нужно менять. Поэтому хостинг-провайдеры сообщают на своих сайтах о крупных партнерах, а разработчики приложений хвалятся тем, что их продукт используют в условной Apple или в другой популярной корпорации.
Чтобы исследовать изменения на лендинге, используйте вариант «Эксперимент с переадресацией» — он будет показывать две разные версии сайта выделенным сегментам аудитории. В остальных случаях можно использовать вариант A/В тестирование. Разновидностью A/B-тестирования является многовариантное тестирование. Проще говоря, утверждение, которое истинно до того, как мы собираем какие-либо данные, является нулевой гипотезой.
Эти программы могут самостоятельно разделять пользователей и отслеживать эффективность всех вариантов тестируемых страниц. Программа помогает рассчитать, сколько пользователей нужно для участия в эксперименте. Для этого нужно знать базовую конверсию и минимальный видимый эффект — относительную разницу в конверсии в сравнении с базовой. Выберите программу, с помощью которой будете проводить тестирование.
Чтобы управлять трафиком в ходе А/Б-теста, используют различные инструменты сплит-тестирования. Если трафик идет к вам через платную рекламу или поисковики, можно пользоваться веб-аналитикой. Например, проведите A/B-тестирование с Google Analytics — если их счетчики установлены у вас на сайте. В Google Analytics есть отдельный функционал, целиком посвященный сплит-тестированию страниц — Google Optimize. Перед началом проведения сплит-теста стоит проверить, подходит ли он вам.
Чтобы определить победителя в A/B-тесте, измеряем результаты обеих страниц. Результаты — это те метрики, которые мы хотели изначально улучшить. Например, количество подписок на рассылку, кликов по баннеру или продаж. Как видите, A/B-тестирование – необходимый элемент для развития веб-сайтов и приложений. Без постоянных экспериментов и проверок ваш сайт перестанет расти, а в стагнации невозможно наращивать и прибыль. Так что не забывайте регулярно проверять предположительно эффективные гипотезы и модифицировать ресурс, используя A/B-тестирование.
Это создает контакт между существующими клиентами, уже оценившими качество оказываемых услуг, и потенциальными клиентами, еще раздумывающими по поводу приобретения товара. Повышается уровень доверия, а вместе с тем и шанс на конверсию. Невозможно затронуть каждый сегмент своей целевой аудитории, используя исключительно SEO-тексты. Это может быть подкаст, видеоролик, какая-то наглядная инфографика и т.п. Есть и другие аспекты текста, способные повлиять на количество посещений страницы.
Анализируем все компоненты сайта, влияющие на получение этой выгоды. То есть надо решить, какое изменение будет тестироваться и по какой причине. А для этого сначала надо собрать статистику о текущем состоянии страницы, от чего отталкиваться и к чему стремиться.