Как создавать отчеты об экспериментах

Отчеты об экспериментах можно создавать двумя способами:

  • Отчеты об экспериментах. Запрашивайте показатели для ресурса experiment. Этот вариант позволяет получить показатели для контрольной и экспериментальной групп в одном ответе, а также статистические данные для сравнения, такие как рост и p-значения. Это единственный способ получать отчеты об экспериментах в рамках кампании.
  • Отчеты о кампаниях. Запрашивайте показатели у ресурса campaign, используя campaign.experiment_type, чтобы различать базовые и экспериментальные кампании. Этот вариант доступен только для экспериментов, в которых используются отдельные контрольные и экспериментальные кампании, например для экспериментов с управлением на уровне системы.

В этом руководстве основное внимание уделяется отчетам об экспериментах, которые совместимы со всеми типами экспериментов, поддерживающими отчеты.

Отчеты об экспериментах

Вы можете напрямую запрашивать ресурс experiment, чтобы получать показатели эффективности и статистические сравнения между контрольной и экспериментальной группами.

Показатели и статистическая значимость

Для основных показателей, таких как клики, показы, расходы, конверсии и ценность конверсий, ресурс experiment предоставляет в одной строке как показатели экспериментальной группы (например, metrics.clicks), так и контрольной (например, metrics.control_clicks).

Также в нем есть поля, которые помогут вам оценить статистическую значимость различий между группами:

  • metrics.*_p_value: вероятность того, что наблюдаемые результаты были бы получены, если бы эксперимент не оказал никакого влияния на показатель. Чем ниже p-значение, тем выше статистическая значимость.
  • metrics.*_point_estimate – расчетный процент роста (положительный или отрицательный) определенного показателя для экспериментальной группы по сравнению с контрольной. Вместе с margin_of_error они описывают доверительный интервал с заданным уровнем достоверности для оцениваемой разницы. Оцениваемое значение – это (экспериментальная группа / контрольная группа – 1). Точечная оценка находится в центре доверительного интервала.
  • metrics.*_margin_of_error – радиус доверительного интервала, центр которого находится в точке point_estimate. Он рассчитывается для заданного уровня достоверности, который зависит от типа эксперимента.

Для ресурса experiment поддерживаются следующие поля основных показателей, в том числе значение экспериментальной группы, значение контрольной группы и перечисленные выше поля статистики:

  • clicks
  • impressions
  • cost_micros
  • conversions
  • cost_per_conversion
  • conversion_value
  • conversion_value_per_cost

Для конверсий статистические поля доступны в следующих полях absolute_change, а не в виде относительных значений:

  • metrics.conversions_absolute_change_p_value: p-значение для нулевой гипотезы о том, что эксперимент не влияет на абсолютное изменение конверсий. Диапазон значений: от 0 до 1.
  • metrics.conversions_absolute_change_point_estimate: Точечная оценка при определении влияния эксперимента на абсолютное изменение количества конверсий.
  • metrics.conversions_absolute_change_margin_of_error: Допустимая погрешность при оценке влияния эксперимента на абсолютное изменение количества конверсий.

Чтобы составить действительные запросы к ресурсу experiment, воспользуйтесь инструментом Google Ads Query Builder.

Пример запроса

Следующий запрос GAQL позволяет получить ключевые показатели для эксперимента:

SELECT
  experiment.experiment_id,
  experiment.name,
  experiment.type,
  metrics.clicks,
  metrics.control_clicks,
  metrics.clicks_point_estimate,
  metrics.clicks_margin_of_error,
  metrics.clicks_p_value,
  metrics.conversions,
  metrics.control_conversions,
  metrics.conversions_absolute_change_point_estimate,
  metrics.conversions_absolute_change_margin_of_error,
  metrics.conversions_absolute_change_p_value
FROM experiment
WHERE experiment.experiment_id = EXPERIMENT_ID

Проанализируйте результаты

Поля "p-значение", "Точечная оценка" и "Поле ошибки" помогут вам определить, являются ли результаты эксперимента статистически значимыми. Например, если значение conversions_absolute_change_p_value ниже выбранного порогового значения (например, 0.05 для уровня достоверности 95 %) и значение conversions_absolute_change_point_estimate – conversions_absolute_change_margin_of_error больше нуля, то экспериментальная группа значительно эффективнее контрольной группы по количеству конверсий.

Ниже приведен фрагмент кода на языке Python, который показывает, как оценивать результаты на основе p-значения и расчетных значений роста:

Java

private void evaluateExperiment(
    GoogleAdsClient googleAdsClient, long customerId, GoogleAdsRow row) {
  Metrics metrics = row.getMetrics();
  String experimentResourceName = row.getExperiment().getResourceName();

  // 1. Evaluate conversion success as a primary success signal if available.
  // - Point Estimate: Represents the estimated average lift or difference in conversions.
  // - Margin of Error: Outlines the confidence interval bounds. Note that the margin_of_error
  //   provided by the API is calculated for a preset confidence level which is set based on the
  //   experiment type.
  // - Lower Bound: (Point Estimate - Margin of Error). If this value is above 0,
  //   we have statistical significance that performance has improved.
  double convPValue = metrics.getConversionsAbsoluteChangePValue();
  double convLift = metrics.getConversionsAbsoluteChangePointEstimate();
  double convError = metrics.getConversionsAbsoluteChangeMarginOfError();
  double convLowerBound = convLift - convError;

  if (convPValue <= P_VALUE_THRESHOLD) {
    if (convLowerBound > 0) {
      System.out.printf(
          "Significant Success: Conversions increased. Even at the lower bound, the lift is %.2f."
              + " Promoting changes.%n",
          convLowerBound);
      promoteExperiment(googleAdsClient, customerId, experimentResourceName);
      return;
    } else if ((convLift + convError) < 0) {
      System.out.printf(
          "Significant Decline: Even the upper bound (%.2f) is below zero. Ending experiment.%n",
          convLift + convError);
      endExperiment(googleAdsClient, customerId, experimentResourceName);
      return;
    }
  }

  // 2. Fall back to evaluating click metrics if conversions are inconclusive.
  double clickPValue = metrics.getClicksPValue();
  double clickLift = metrics.getClicksPointEstimate();
  double clickError = metrics.getClicksMarginOfError();
  double clickLowerBound = clickLift - clickError;

  if (clickPValue <= P_VALUE_THRESHOLD && clickLowerBound > 0) {
    System.out.printf("Click volume is significantly up (+%.1f%%).%n", clickLift * 100);

    // Graduation is only supported for separate campaign experiments, not
    // intra-campaign experiments where there is no separate treatment campaign.
    ExperimentType experimentType = row.getExperiment().getType();
    if (experimentType != ExperimentType.ADOPT_BROAD_MATCH_KEYWORDS
        && experimentType != ExperimentType.ADOPT_AI_MAX) {
      System.out.println("Graduating treatment campaign for further manual analysis.");
      graduateExperiment(googleAdsClient, customerId, experimentResourceName);
    } else {
      System.out.println(
          "Intra-campaign trial detected: graduation is not supported. Continuing to run the"
              + " experiment to gather more conversion data.");
    }
  } else {
    // 3. Print status if no action was taken.
    System.out.printf(
        "Inconclusive: No significant lift in Conversions (p=%.2f) or Clicks (p=%.2f). Current"
            + " estimated lift: %.2f +/- %.2f. Allowing the experiment to continue running.%n",
        convPValue, clickPValue, convLift, convError);
  }
}

      

C#

private static void EvaluateExperiment(GoogleAdsClient client, long customerId, GoogleAdsRow row)
{
    // This function evaluates performance metrics and immediately takes action
    // to update the experiment's status (promote, end, or graduate) if
    // statistical significance thresholds are met.
    var metrics = row.Metrics;
    string experimentResourceName = row.Experiment.ResourceName;

    bool hasConvMetrics = metrics.HasConversionsAbsoluteChangePValue
        && metrics.HasConversionsAbsoluteChangePointEstimate
        && metrics.HasConversionsAbsoluteChangeMarginOfError;

    bool hasClickMetrics = metrics.HasClicksPValue
        && metrics.HasClicksPointEstimate
        && metrics.HasClicksMarginOfError;

    // 1. Evaluate conversion success as a primary success signal if available.
    // - Point Estimate: Represents the estimated average lift or difference in conversions.
    // - Margin of Error: Outlines the confidence interval bounds. Note that the margin_of_error
    //   provided by the API is calculated for a preset confidence level which is set based on
    //   the experiment type.
    // - Lower Bound: (Point Estimate - Margin of Error). If this value is above 0,
    //   we have statistical significance that performance has improved.
    if (hasConvMetrics)
    {
        double convPValue = metrics.ConversionsAbsoluteChangePValue;
        double convLift = metrics.ConversionsAbsoluteChangePointEstimate;
        double convError = metrics.ConversionsAbsoluteChangeMarginOfError;
        double convLowerBound = convLift - convError;

        if (convPValue <= P_VALUE_THRESHOLD)
        {
            if (convLowerBound > 0)
            {
                Console.WriteLine(
                    $"Significant Success: Conversions increased. Even at the lower" +
                    $" bound, the lift is {convLowerBound:F2}. Promoting changes.");
                PromoteExperiment(client, customerId, experimentResourceName);
                return;
            }
            else if ((convLift + convError) < 0)
            {
                Console.WriteLine(
                    $"Significant Decline: Even the upper bound ({convLift + convError:F2}) " +
                    $"is below zero. Ending experiment.");
                EndExperiment(client, customerId, experimentResourceName);
                return;
            }
        }
    }

    // 2. Evaluate click volume as a secondary signal.
    // This is helpful as an early indicator or for lower-volume accounts.
    if (hasClickMetrics)
    {
        double clickPValue = metrics.ClicksPValue;
        double clickLift = metrics.ClicksPointEstimate;
        double clickError = metrics.ClicksMarginOfError;
        double clickLowerBound = clickLift - clickError;

        if (clickPValue <= P_VALUE_THRESHOLD && clickLowerBound > 0)
        {
            // We have a directional winner: high confidence in more traffic,
            // but not enough data to confirm conversion impact yet.
            Console.WriteLine(
                $"Click volume is significantly up (+{clickLift * 100:F1}%).");

            // Graduation is only supported for separate campaign experiments, not
            // intra-campaign experiments where there is no separate treatment campaign.
            if (row.Experiment.Type != ExperimentType.AdoptBroadMatchKeywords
                && row.Experiment.Type != ExperimentType.AdoptAiMax)
            {
                Console.WriteLine("Graduating treatment campaign for further manual analysis.");
                GraduateExperiment(client, customerId, experimentResourceName);
            }
            else
            {
                Console.WriteLine(
                    "Intra-campaign trial detected: graduation is not supported. " +
                    "Continuing to run the experiment to gather more conversion data.");
            }
            return;
        }
    }

    // 3. Print status if no action was taken.
    if (hasConvMetrics || hasClickMetrics)
    {
        string convStatus = hasConvMetrics
            ? $"Conversions (p={metrics.ConversionsAbsoluteChangePValue:F2}, " +
              $"lift={metrics.ConversionsAbsoluteChangePointEstimate:F2} +/- " +
              $"{metrics.ConversionsAbsoluteChangeMarginOfError:F2})"
            : "Conversions (not populated)";

        string clickStatus = hasClickMetrics
            ? $"Clicks (p={metrics.ClicksPValue:F2}, " +
              $"lift={metrics.ClicksPointEstimate:F2} +/- " +
              $"{metrics.ClicksMarginOfError:F2})"
            : "Clicks (not populated)";

        Console.WriteLine(
            $"Inconclusive: No significant action taken. {convStatus}, {clickStatus}. " +
            "Allowing the experiment to continue running.");
    }
    else
    {
        Console.WriteLine(
            "Conversion and click performance metrics are not yet populated. " +
            "Allowing the experiment to continue running.");
    }
}
      

PHP

This example is not yet available in PHP; you can take a look at the other languages.
    

Python

def evaluate_experiment(
    client: GoogleAdsClient, customer_id: str, row: GoogleAdsRow
) -> None:
    """Evaluates the performance of the experiment and updates it accordingly
    (for example, promotes, ends, or graduates).

    Checks conversion and click metrics against statistical significance thresholds
    to determine the appropriate action to take on the experiment.

    Args:
        client: an initialized GoogleAdsClient instance.
        customer_id: a client customer ID.
        row: a GoogleAdsRow containing the experiment and metrics.
    """
    # This function evaluates performance metrics and immediately takes action
    # to update the experiment's status (promote, end, or graduate) if
    # statistical significance thresholds are met.
    metrics = row.metrics
    experiment_resource_name = row.experiment.resource_name

    has_conv_metrics = (
        "conversions_absolute_change_p_value" in metrics
        and "conversions_absolute_change_point_estimate" in metrics
        and "conversions_absolute_change_margin_of_error" in metrics
    )
    has_click_metrics = (
        "clicks_p_value" in metrics
        and "clicks_point_estimate" in metrics
        and "clicks_margin_of_error" in metrics
    )

    # 1. Evaluate conversion success as a primary success signal if available.
    # - Point Estimate: Represents the estimated average lift or difference in conversions.
    # - Margin of Error: Outlines the confidence interval bounds. Note that the margin_of_error provided by the API is calculated for a preset confidence level which is set based on the experiment type.
    # - Lower Bound: (Point Estimate - Margin of Error). If this value is above 0,
    #   we have statistical significance that performance has improved.
    if has_conv_metrics:
        conv_p_value = metrics.conversions_absolute_change_p_value
        conv_lift = metrics.conversions_absolute_change_point_estimate
        conv_error = metrics.conversions_absolute_change_margin_of_error
        conv_lower_bound = conv_lift - conv_error

        if conv_p_value <= P_VALUE_THRESHOLD:
            if conv_lower_bound > 0:
                print(
                    "Significant Success: Conversions increased. Even at the lower"
                    f" bound, the lift is {conv_lower_bound:.2f}. Promoting"
                    " changes."
                )
                promote_experiment(
                    client, customer_id, experiment_resource_name
                )
                return
            elif (conv_lift + conv_error) < 0:
                print(
                    "Significant Decline: Even the upper bound"
                    f" ({conv_lift + conv_error:.2f}) is below zero. Ending"
                    " experiment."
                )
                end_experiment(client, customer_id, experiment_resource_name)
                return

        # 2. Evaluate click volume as a secondary signal.
        # This is helpful as an early indicator or for lower-volume accounts.
        click_p_value = metrics.clicks_p_value
        click_lift = metrics.clicks_point_estimate
        click_error = metrics.clicks_margin_of_error
        click_lower_bound = click_lift - click_error

        if click_p_value <= P_VALUE_THRESHOLD and click_lower_bound > 0:
            # We have a directional winner: high confidence in more traffic,
            # but not enough data to confirm conversion impact yet.
            print(f"Click volume is significantly up (+{click_lift*100:.1f}%).")

            # Graduation is only supported for separate campaign experiments, not
            # intra-campaign experiments where there is no separate treatment campaign.
            experiment_type_name = row.experiment.type_.name
            if (
                experiment_type_name != "ADOPT_BROAD_MATCH_KEYWORDS"
                and experiment_type_name != "ADOPT_AI_MAX"
            ):
                print(
                    "Graduating treatment campaign for further manual analysis."
                )
                graduate_experiment(
                    client, customer_id, experiment_resource_name
                )
            else:
                print(
                    "Intra-campaign trial detected: graduation is not supported. "
                    "Continuing to run the experiment to gather more conversion data."
                )
            return

    # 3. Print status if no action was taken.
    if has_conv_metrics or has_click_metrics:
        conv_status = (
            f"Conversions (p={metrics.conversions_absolute_change_p_value:.2f}, "
            f"lift={metrics.conversions_absolute_change_point_estimate:.2f} +/- "
            f"{metrics.conversions_absolute_change_margin_of_error:.2f})"
            if has_conv_metrics
            else "Conversions (not populated)"
        )
        click_status = (
            f"Clicks (p={metrics.clicks_p_value:.2f}, "
            f"lift={metrics.clicks_point_estimate:.2f} +/- "
            f"{metrics.clicks_margin_of_error:.2f})"
            if has_click_metrics
            else "Clicks (not populated)"
        )
        print(
            f"Inconclusive: No significant action taken. {conv_status}, {click_status}."
            " Allowing the experiment to continue running."
        )
    else:
        print(
            "Conversion and click performance metrics are not yet populated. "
            "Allowing the experiment to continue running."
        )
      

Ruby

This example is not yet available in Ruby; you can take a look at the other languages.
    

Perl

This example is not yet available in Perl; you can take a look at the other languages.
    

curl

Преимущества по сравнению с отчетами о кампаниях

Отчеты об экспериментах имеют ряд преимуществ по сравнению с отдельными запросами к отчетам о кампаниях:

  1. Централизованные показатели. Получайте показатели для контрольной и экспериментальной групп в одной строке.
  2. Статистические данные о достоверности. Показывают расчетные p-значения, точечные оценки и поля ошибок.
  3. Эффективность. Вам не нужно вручную объединять или сравнивать результаты из нескольких отчетов.
  4. Поддержка экспериментов в рамках одной кампании. Это единственный способ сравнить контрольную и экспериментальную группы в рамках одной кампании, когда трафик разделяется внутри нее.

Отчеты о кампаниях

В экспериментах, в которых создаются отдельные экспериментальные кампании (например, SEARCH_CUSTOM), можно запросить ресурс campaign и использовать campaign.experiment_type, чтобы определить контрольную (BASE) и экспериментальную (EXPERIMENT) кампании. Этот подход полезен, если вам нужно сегментировать показатели на более детальном уровне (например, по группе объявлений или ключевому слову) или просматривать метаданные кампании, недоступные в ресурсе experiment. Однако вам придется вручную сравнивать эффективность и выполнять статистические расчеты.

Отчеты на уровне кампании нельзя использовать для сравнения групп в экспериментах внутри кампании, поскольку разделение трафика происходит внутри одной кампании. При запросе campaign для эксперимента в рамках кампании возвращаются только агрегированные итоговые значения.

Отчеты Brand Lift

В Google Ads API можно создавать отчеты об исследованиях Brand Lift, используя специальные ресурсы для отслеживания Brand Lift.

Ресурсы Brand Lift и представления с разбивкой

Чтобы получить результаты исследования Brand Lift на уровне периода размещения, включая диапазоны дат (start_date и end_date) в часовом поясе клиента, отправьте запрос к ресурсу LiftMeasurementFlight.

Чтобы анализировать показатели Brand Lift по разным параметрам сегментации, отправьте запрос к соответствующим ресурсам разбивки:

Перечисление BrandLiftMeasurementType определяет тип исследования, например узнаваемость бренда или запоминаемость рекламы.

Примеры запросов для Brand Lift

Поскольку метаданные кампании и статистика роста находятся в разных ресурсах, для получения сведений о кампании и статистики эффективности требуются отдельные запросы GAQL.

Запрос сведений о рейсе

Чтобы получить метаданные для кампании Brand Lift, например ее статус, тип исследования и запланированные даты, отправьте запрос к ресурсу LiftMeasurementFlight:

SELECT
  lift_measurement_flight.lift_measurement_config_id,
  lift_measurement_flight.lift_measurement_flight_id,
  lift_measurement_flight.name,
  lift_measurement_flight.status,
  lift_measurement_flight.lift_type,
  lift_measurement_flight.start_date,
  lift_measurement_flight.end_date
FROM lift_measurement_flight
WHERE lift_measurement_flight.lift_measurement_config_id = CONFIG_ID

Запрос статистики

Чтобы получить показатели Brand Lift, запросите нужный ресурс разбивки (или общую конфигурацию исследования на LiftMeasurementConfig). Например, следующий запрос позволяет получить показатели Brand Lift с разбивкой по кампаниям из LiftMeasurementCampaign:

SELECT
  lift_measurement_campaign.lift_measurement_config_id,
  lift_measurement_campaign.campaign,
  metrics.absolute_brand_lift,
  metrics.relative_brand_lift
FROM lift_measurement_campaign
WHERE lift_measurement_campaign.lift_measurement_config_id = CONFIG_ID

Отчеты о росте конверсий

Вы можете измерять дополнительное влияние рекламы на конверсии с помощью отчетов Conversion Lift в Google Ads API.

Конфигурация и показатели Conversion Lift

Запрашивайте ресурс LiftMeasurementConfig, чтобы получать данные об эффективности и конфигурации исследований Conversion Lift.

В этом ресурсе представлены показатели роста конверсий, которые позволяют оценивать дополнительную эффективность:

Отчеты Conversion Lift также позволяют сегментировать данные по действиям-конверсиям и получать подробную информацию о связанных кампаниях, экспериментах и целях конверсий.

Пример запроса для исследования роста конверсий

Следующий запрос GAQL позволяет получить конфигурации исследований Conversion Lift и ключевые показатели эффективности:

SELECT
  lift_measurement_config.lift_measurement_config_id,
  segments.conversion_lift_start_date,
  segments.conversion_lift_end_date,
  segments.conversion_lift_included_conversion_action_types,
  metrics.conversion_lift_baseline_conversions,
  metrics.conversion_lift_exposed_conversions,
  metrics.incremental_conversions,
  metrics.cost_per_incremental_conversion,
  metrics.relative_conversion_lift,
  metrics.incremental_conversion_value,
  metrics.relative_conversion_value_lift
FROM lift_measurement_config
WHERE segments.conversion_lift_start_date = 'YYYY-MM-DD'
  AND segments.conversion_lift_end_date = 'YYYY-MM-DD'
  AND lift_measurement_config.lift_measurement_config_id = CONFIG_ID

Рекомендации

  • Выберите подходящий уровень достоверности. Установив более низкое пороговое значение p (p < 0,05), вы сможете быстрее получать ориентировочные данные, особенно при небольших бюджетах или объемах конверсий. Достоверность 95 % (p-значение <= 0,05) считается академическим стандартом и может быть более подходящей для получения точных результатов за более длительные временные рамки.
  • Проводите эксперименты достаточно долго. Чтобы учесть еженедельные циклы эффективности, задержки конверсий и периоды обучения, эксперименты должны длиться не менее четырех недель.
  • Дайте время на адаптацию. Если в кампаниях используется автоматическое назначение ставок или тестируются новые функции, не учитывайте данные за первые 1–2 недели, чтобы модели назначения ставок и уровни трафика могли адаптироваться к разделению.
  • Используйте разделение 50/50. Обычно это самый быстрый способ получить статистически значимые результаты.
  • Запланируйте эксперимент заранее. Укажите дату начала эксперимента через 3–7 дней, чтобы у нас было время проверить и одобрить объявления.