एक्सपेरिमेंट की रिपोर्ट

एक्सपेरिमेंट की रिपोर्ट बनाने के दो मुख्य तरीके हैं:

  • एक्सपेरिमेंट की रिपोर्टिंग सीधे तौर पर करना: मेट्रिक के लिए, experiment संसाधन से क्वेरी करें. इस विकल्प से, कंट्रोल और ट्रीटमेंट ग्रुप के लिए मेट्रिक मिलती हैं. साथ ही, सांख्यिकीय तुलना का डेटा भी मिलता है. जैसे, लिफ़्ट और पी-वैल्यू. इंट्रा-कैंपेन एक्सपेरिमेंट की रिपोर्ट बनाने का यही तरीका है.
  • कैंपेन की रिपोर्टिंग: मेट्रिक के लिए, campaign रिसॉर्स को क्वेरी करें. साथ ही, campaign.experiment_type का इस्तेमाल करके, बेस और एक्सपेरिमेंट कैंपेन के बीच अंतर करें. यह विकल्प सिर्फ़ उन एक्सपेरिमेंट के लिए उपलब्ध है जिनमें अलग-अलग कंट्रोल और ट्रीटमेंट कैंपेन का इस्तेमाल किया जाता है. जैसे, सिस्टम मैनेज किए जाने वाले एक्सपेरिमेंट.

इस गाइड में मुख्य रूप से, एक्सपेरिमेंट की रिपोर्टिंग पर फ़ोकस किया गया है. यह रिपोर्टिंग की सुविधा के साथ काम करने वाले सभी एक्सपेरिमेंट के साथ काम करती है.

एक्सपेरिमेंट की रिपोर्टिंग सीधे तौर पर करना

experiment संसाधन से सीधे तौर पर क्वेरी करके, परफ़ॉर्मेंस मेट्रिक और कंट्रोल ग्रुप और ट्रीटमेंट ग्रुप के बीच आंकड़ों की तुलना की जा सकती है.

मेट्रिक और सांख्यिकीय महत्व

क्लिक, इंप्रेशन, लागत, कन्वर्ज़न, और कन्वर्ज़न वैल्यू जैसी मुख्य मेट्रिक के लिए, experiment संसाधन एक ही लाइन में ट्रीटमेंट मेट्रिक (उदाहरण के लिए, metrics.clicks) और कंट्रोल मेट्रिक (उदाहरण के लिए, metrics.control_clicks) दोनों उपलब्ध कराता है.

इसमें ऐसे फ़ील्ड भी दिए गए हैं जिनसे आपको दोनों ग्रुप के बीच के अंतर के सांख्यिकीय महत्व का आकलन करने में मदद मिलती है:

  • metrics.*_p_value: इस बात की संभावना कि अगर एक्सपेरिमेंट का मेट्रिक पर कोई असर नहीं पड़ा, तो नतीजे ऐसे ही रहेंगे. p-वैल्यू कम होने का मतलब है कि आंकड़ों के हिसाब से नतीजे ज़्यादा अहम हैं.
  • metrics.*_point_estimate: यह कंट्रोल ग्रुप की तुलना में, ट्रीटमेंट ग्रुप के लिए दी गई मेट्रिक में अनुमानित लिफ़्ट (पॉज़िटिव या नेगेटिव) का प्रतिशत है. margin_of_error के साथ मिलकर, ये दोनों मेट्रिक, अनुमानित अंतर के लिए तय किए गए कॉन्फ़िडेंस लेवल के साथ कॉन्फ़िडेंस इंटरवल के बारे में बताती हैं. अनुमानित वैल्यू (ट्रीटमेंट / कंट्रोल - 1) होती है. पॉइंट अनुमान, कॉन्फ़िडेंस इंटरवल का सेंटर होता है.
  • metrics.*_margin_of_error: कॉन्फ़िडेंस इंटरवल का दायरा, जो point_estimate पर केंद्रित होता है. इसका हिसाब, तय किए गए कॉन्फ़िडेंस लेवल के लिए लगाया जाता है. यह कॉन्फ़िडेंस लेवल, एक्सपेरिमेंट के टाइप पर निर्भर करता है.

experiment संसाधन पर, मुख्य मेट्रिक के इन फ़ील्ड का इस्तेमाल किया जा सकता है. इनमें ट्रीटमेंट ग्रुप की वैल्यू, कंट्रोल ग्रुप की वैल्यू, और पहले बताए गए स्टैट फ़ील्ड शामिल हैं:

  • clicks
  • impressions
  • cost_micros
  • conversions
  • cost_per_conversion
  • conversion_value
  • conversion_value_per_cost

कन्वर्ज़न के लिए, खास तौर पर आंकड़ों वाले फ़ील्ड, रिलेटिव वैल्यू के तौर पर नहीं, बल्कि यहां दिए गए absolute_change फ़ील्ड के ज़रिए उपलब्ध होते हैं:

  • metrics.conversions_absolute_change_p_value: यह शून्य परिकल्पना के लिए p-वैल्यू है. इससे पता चलता है कि एक्सपेरिमेंट का कन्वर्ज़न में हुए कुल बदलाव पर कोई असर नहीं पड़ा. इसकी वैल्यू 0 से 1 के बीच होती है.
  • metrics.conversions_absolute_change_point_estimate: कन्वर्ज़न पर एक्सपेरिमेंट के असर का अनुमान लगाते समय पॉइंट का अनुमान कुल बदलाव.
  • metrics.conversions_absolute_change_margin_of_error: कन्वर्ज़न पर एक्सपेरिमेंट के असर का अनुमान लगाते समय गड़बड़ी की संभावना निरपेक्ष बदलाव.

experiment संसाधन के लिए मान्य क्वेरी बनाने में मदद पाने के लिए, Google Ads क्वेरी बिल्डर टूल का इस्तेमाल करें.

उदाहरण के तौर पर दी गई क्वेरी

यह GAQL क्वेरी, किसी एक्सपेरिमेंट के लिए मुख्य मेट्रिक वापस लाती है:

SELECT
  experiment.experiment_id,
  experiment.name,
  experiment.type,
  metrics.clicks,
  metrics.control_clicks,
  metrics.clicks_point_estimate,
  metrics.clicks_margin_of_error,
  metrics.clicks_p_value,
  metrics.conversions,
  metrics.control_conversions,
  metrics.conversions_absolute_change_point_estimate,
  metrics.conversions_absolute_change_margin_of_error,
  metrics.conversions_absolute_change_p_value
FROM experiment
WHERE experiment.experiment_id = EXPERIMENT_ID

नतीजों को समझना

पी-वैल्यू, पॉइंट अनुमान, और गड़बड़ी के मार्जिन फ़ील्ड का इस्तेमाल करके यह तय किया जा सकता है कि आपके एक्सपेरिमेंट से मिले नतीजे, आंकड़ों के हिसाब से अहम हैं या नहीं. उदाहरण के लिए, अगर conversions_absolute_change_p_value, आपके चुने गए थ्रेशोल्ड से कम है (उदाहरण के लिए, 95% कॉन्फ़िडेंस के लिए 0.05) और conversions_absolute_change_point_estimate - conversions_absolute_change_margin_of_error शून्य से ज़्यादा है, तो इसका मतलब है कि कन्वर्ज़न के मामले में, ट्रीटमेंट ग्रुप की परफ़ॉर्मेंस कंट्रोल ग्रुप की तुलना में काफ़ी बेहतर है.

यहां एक Python स्निपेट दिया गया है. इसमें बताया गया है कि p-वैल्यू और लिफ़्ट के अनुमानों के आधार पर नतीजों का आकलन कैसे किया जाता है:

Java

private void evaluateExperiment(
    GoogleAdsClient googleAdsClient, long customerId, GoogleAdsRow row) {
  Metrics metrics = row.getMetrics();
  String experimentResourceName = row.getExperiment().getResourceName();

  // 1. Evaluate conversion success as a primary success signal if available.
  // - Point Estimate: Represents the estimated average lift or difference in conversions.
  // - Margin of Error: Outlines the confidence interval bounds. Note that the margin_of_error
  //   provided by the API is calculated for a preset confidence level which is set based on the
  //   experiment type.
  // - Lower Bound: (Point Estimate - Margin of Error). If this value is above 0,
  //   we have statistical significance that performance has improved.
  double convPValue = metrics.getConversionsAbsoluteChangePValue();
  double convLift = metrics.getConversionsAbsoluteChangePointEstimate();
  double convError = metrics.getConversionsAbsoluteChangeMarginOfError();
  double convLowerBound = convLift - convError;

  if (convPValue <= P_VALUE_THRESHOLD) {
    if (convLowerBound > 0) {
      System.out.printf(
          "Significant Success: Conversions increased. Even at the lower bound, the lift is %.2f."
              + " Promoting changes.%n",
          convLowerBound);
      promoteExperiment(googleAdsClient, customerId, experimentResourceName);
      return;
    } else if ((convLift + convError) < 0) {
      System.out.printf(
          "Significant Decline: Even the upper bound (%.2f) is below zero. Ending experiment.%n",
          convLift + convError);
      endExperiment(googleAdsClient, customerId, experimentResourceName);
      return;
    }
  }

  // 2. Fall back to evaluating click metrics if conversions are inconclusive.
  double clickPValue = metrics.getClicksPValue();
  double clickLift = metrics.getClicksPointEstimate();
  double clickError = metrics.getClicksMarginOfError();
  double clickLowerBound = clickLift - clickError;

  if (clickPValue <= P_VALUE_THRESHOLD && clickLowerBound > 0) {
    System.out.printf("Click volume is significantly up (+%.1f%%).%n", clickLift * 100);

    // Graduation is only supported for separate campaign experiments, not
    // intra-campaign experiments where there is no separate treatment campaign.
    ExperimentType experimentType = row.getExperiment().getType();
    if (experimentType != ExperimentType.ADOPT_BROAD_MATCH_KEYWORDS
        && experimentType != ExperimentType.ADOPT_AI_MAX) {
      System.out.println("Graduating treatment campaign for further manual analysis.");
      graduateExperiment(googleAdsClient, customerId, experimentResourceName);
    } else {
      System.out.println(
          "Intra-campaign trial detected: graduation is not supported. Continuing to run the"
              + " experiment to gather more conversion data.");
    }
  } else {
    // 3. Print status if no action was taken.
    System.out.printf(
        "Inconclusive: No significant lift in Conversions (p=%.2f) or Clicks (p=%.2f). Current"
            + " estimated lift: %.2f +/- %.2f. Allowing the experiment to continue running.%n",
        convPValue, clickPValue, convLift, convError);
  }
}

C#

private static void EvaluateExperiment(GoogleAdsClient client, long customerId, GoogleAdsRow row)
{
    // This function evaluates performance metrics and immediately takes action
    // to update the experiment's status (promote, end, or graduate) if
    // statistical significance thresholds are met.
    var metrics = row.Metrics;
    string experimentResourceName = row.Experiment.ResourceName;

    bool hasConvMetrics = metrics.HasConversionsAbsoluteChangePValue
        && metrics.HasConversionsAbsoluteChangePointEstimate
        && metrics.HasConversionsAbsoluteChangeMarginOfError;

    bool hasClickMetrics = metrics.HasClicksPValue
        && metrics.HasClicksPointEstimate
        && metrics.HasClicksMarginOfError;

    // 1. Evaluate conversion success as a primary success signal if available.
    // - Point Estimate: Represents the estimated average lift or difference in conversions.
    // - Margin of Error: Outlines the confidence interval bounds. Note that the margin_of_error
    //   provided by the API is calculated for a preset confidence level which is set based on
    //   the experiment type.
    // - Lower Bound: (Point Estimate - Margin of Error). If this value is above 0,
    //   we have statistical significance that performance has improved.
    if (hasConvMetrics)
    {
        double convPValue = metrics.ConversionsAbsoluteChangePValue;
        double convLift = metrics.ConversionsAbsoluteChangePointEstimate;
        double convError = metrics.ConversionsAbsoluteChangeMarginOfError;
        double convLowerBound = convLift - convError;

        if (convPValue <= P_VALUE_THRESHOLD)
        {
            if (convLowerBound > 0)
            {
                Console.WriteLine(
                    $"Significant Success: Conversions increased. Even at the lower" +
                    $" bound, the lift is {convLowerBound:F2}. Promoting changes.");
                PromoteExperiment(client, customerId, experimentResourceName);
                return;
            }
            else if ((convLift + convError) < 0)
            {
                Console.WriteLine(
                    $"Significant Decline: Even the upper bound ({convLift + convError:F2}) " +
                    $"is below zero. Ending experiment.");
                EndExperiment(client, customerId, experimentResourceName);
                return;
            }
        }
    }

    // 2. Evaluate click volume as a secondary signal.
    // This is helpful as an early indicator or for lower-volume accounts.
    if (hasClickMetrics)
    {
        double clickPValue = metrics.ClicksPValue;
        double clickLift = metrics.ClicksPointEstimate;
        double clickError = metrics.ClicksMarginOfError;
        double clickLowerBound = clickLift - clickError;

        if (clickPValue <= P_VALUE_THRESHOLD && clickLowerBound > 0)
        {
            // We have a directional winner: high confidence in more traffic,
            // but not enough data to confirm conversion impact yet.
            Console.WriteLine(
                $"Click volume is significantly up (+{clickLift * 100:F1}%).");

            // Graduation is only supported for separate campaign experiments, not
            // intra-campaign experiments where there is no separate treatment campaign.
            if (row.Experiment.Type != ExperimentType.AdoptBroadMatchKeywords
                && row.Experiment.Type != ExperimentType.AdoptAiMax)
            {
                Console.WriteLine("Graduating treatment campaign for further manual analysis.");
                GraduateExperiment(client, customerId, experimentResourceName);
            }
            else
            {
                Console.WriteLine(
                    "Intra-campaign trial detected: graduation is not supported. " +
                    "Continuing to run the experiment to gather more conversion data.");
            }
            return;
        }
    }

    // 3. Print status if no action was taken.
    if (hasConvMetrics || hasClickMetrics)
    {
        string convStatus = hasConvMetrics
            ? $"Conversions (p={metrics.ConversionsAbsoluteChangePValue:F2}, " +
              $"lift={metrics.ConversionsAbsoluteChangePointEstimate:F2} +/- " +
              $"{metrics.ConversionsAbsoluteChangeMarginOfError:F2})"
            : "Conversions (not populated)";

        string clickStatus = hasClickMetrics
            ? $"Clicks (p={metrics.ClicksPValue:F2}, " +
              $"lift={metrics.ClicksPointEstimate:F2} +/- " +
              $"{metrics.ClicksMarginOfError:F2})"
            : "Clicks (not populated)";

        Console.WriteLine(
            $"Inconclusive: No significant action taken. {convStatus}, {clickStatus}. " +
            "Allowing the experiment to continue running.");
    }
    else
    {
        Console.WriteLine(
            "Conversion and click performance metrics are not yet populated. " +
            "Allowing the experiment to continue running.");
    }
}

PHP

This example is not yet available in PHP; you can take a look at the other languages.

Python

def evaluate_experiment(
    client: GoogleAdsClient, customer_id: str, row: GoogleAdsRow
) -> None:
    """Evaluates the performance of the experiment and updates it accordingly
    (for example, promotes, ends, or graduates).

    Checks conversion and click metrics against statistical significance thresholds
    to determine the appropriate action to take on the experiment.

    Args:
        client: an initialized GoogleAdsClient instance.
        customer_id: a client customer ID.
        row: a GoogleAdsRow containing the experiment and metrics.
    """
    # This function evaluates performance metrics and immediately takes action
    # to update the experiment's status (promote, end, or graduate) if
    # statistical significance thresholds are met.
    metrics = row.metrics
    experiment_resource_name = row.experiment.resource_name

    has_conv_metrics = (
        "conversions_absolute_change_p_value" in metrics
        and "conversions_absolute_change_point_estimate" in metrics
        and "conversions_absolute_change_margin_of_error" in metrics
    )
    has_click_metrics = (
        "clicks_p_value" in metrics
        and "clicks_point_estimate" in metrics
        and "clicks_margin_of_error" in metrics
    )

    # 1. Evaluate conversion success as a primary success signal if available.
    # - Point Estimate: Represents the estimated average lift or difference in conversions.
    # - Margin of Error: Outlines the confidence interval bounds. Note that the margin_of_error provided by the API is calculated for a preset confidence level which is set based on the experiment type.
    # - Lower Bound: (Point Estimate - Margin of Error). If this value is above 0,
    #   we have statistical significance that performance has improved.
    if has_conv_metrics:
        conv_p_value = metrics.conversions_absolute_change_p_value
        conv_lift = metrics.conversions_absolute_change_point_estimate
        conv_error = metrics.conversions_absolute_change_margin_of_error
        conv_lower_bound = conv_lift - conv_error

        if conv_p_value <= P_VALUE_THRESHOLD:
            if conv_lower_bound > 0:
                print(
                    "Significant Success: Conversions increased. Even at the lower"
                    f" bound, the lift is {conv_lower_bound:.2f}. Promoting"
                    " changes."
                )
                promote_experiment(
                    client, customer_id, experiment_resource_name
                )
                return
            elif (conv_lift + conv_error) < 0:
                print(
                    "Significant Decline: Even the upper bound"
                    f" ({conv_lift + conv_error:.2f}) is below zero. Ending"
                    " experiment."
                )
                end_experiment(client, customer_id, experiment_resource_name)
                return

        # 2. Evaluate click volume as a secondary signal.
        # This is helpful as an early indicator or for lower-volume accounts.
        click_p_value = metrics.clicks_p_value
        click_lift = metrics.clicks_point_estimate
        click_error = metrics.clicks_margin_of_error
        click_lower_bound = click_lift - click_error

        if click_p_value <= P_VALUE_THRESHOLD and click_lower_bound > 0:
            # We have a directional winner: high confidence in more traffic,
            # but not enough data to confirm conversion impact yet.
            print(f"Click volume is significantly up (+{click_lift*100:.1f}%).")

            # Graduation is only supported for separate campaign experiments, not
            # intra-campaign experiments where there is no separate treatment campaign.
            experiment_type_name = row.experiment.type_.name
            if (
                experiment_type_name != "ADOPT_BROAD_MATCH_KEYWORDS"
                and experiment_type_name != "ADOPT_AI_MAX"
            ):
                print(
                    "Graduating treatment campaign for further manual analysis."
                )
                graduate_experiment(
                    client, customer_id, experiment_resource_name
                )
            else:
                print(
                    "Intra-campaign trial detected: graduation is not supported. "
                    "Continuing to run the experiment to gather more conversion data."
                )
            return

    # 3. Print status if no action was taken.
    if has_conv_metrics or has_click_metrics:
        conv_status = (
            f"Conversions (p={metrics.conversions_absolute_change_p_value:.2f}, "
            f"lift={metrics.conversions_absolute_change_point_estimate:.2f} +/- "
            f"{metrics.conversions_absolute_change_margin_of_error:.2f})"
            if has_conv_metrics
            else "Conversions (not populated)"
        )
        click_status = (
            f"Clicks (p={metrics.clicks_p_value:.2f}, "
            f"lift={metrics.clicks_point_estimate:.2f} +/- "
            f"{metrics.clicks_margin_of_error:.2f})"
            if has_click_metrics
            else "Clicks (not populated)"
        )
        print(
            f"Inconclusive: No significant action taken. {conv_status}, {click_status}."
            " Allowing the experiment to continue running."
        )
    else:
        print(
            "Conversion and click performance metrics are not yet populated. "
            "Allowing the experiment to continue running."
        )

Ruby

This example is not yet available in Ruby; you can take a look at the other languages.

Perl

This example is not yet available in Perl; you can take a look at the other languages.

curl

कैंपेन की रिपोर्टिंग की तुलना में मिलने वाले फ़ायदे

एक्सपेरिमेंट की रिपोर्टिंग की सुविधा से, कैंपेन की रिपोर्ट को अलग-अलग क्वेरी करने के मुकाबले कई फ़ायदे मिलते हैं:

  1. सेंट्रलाइज़ की गई मेट्रिक: कंट्रोल ग्रुप और ट्रीटमेंट ग्रुप के लिए मेट्रिक को एक ही लाइन में पाएं.
  2. आंकड़ों के भरोसेमंद होने से जुड़ा डेटा: इससे कैलकुलेट की गई p-वैल्यू, पॉइंट अनुमान, और मार्जिन ऑफ़ एरर (गड़बड़ी की गुंजाइश) के बारे में पता चलता है.
  3. बेहतर तरीके से काम करना: इससे, एक से ज़्यादा रिपोर्ट के नतीजों को मैन्युअल तरीके से जोड़ने या उनकी तुलना करने की ज़रूरत नहीं पड़ती.
  4. एक ही कैंपेन में एक्सपेरिमेंट करने की सुविधा: यह एक ही कैंपेन में एक्सपेरिमेंट करने के लिए, कंट्रोल ग्रुप और ट्रीटमेंट ग्रुप की तुलना करने का एकमात्र तरीका है. इसमें ट्रैफ़िक को एक ही कैंपेन में बांटा जाता है.

कैंपेन रिपोर्टिंग

अलग-अलग ट्रीटमेंट कैंपेन बनाने वाले एक्सपेरिमेंट (उदाहरण के लिए, SEARCH_CUSTOM) के लिए, campaign संसाधन को क्वेरी किया जा सकता है. साथ ही, BASE (कंट्रोल) और EXPERIMENT (ट्रीटमेंट) कैंपेन की पहचान करने के लिए, campaign.experiment_type का इस्तेमाल किया जा सकता है. यह तरीका तब मददगार होता है, जब आपको मेट्रिक को ज़्यादा बारीकी से सेगमेंट करना हो. उदाहरण के लिए, विज्ञापन ग्रुप या कीवर्ड के हिसाब से. इसके अलावा, अगर आपको कैंपेन का ऐसा मेटाडेटा देखना हो जो experiment संसाधन पर उपलब्ध नहीं है, तब भी यह तरीका काम आता है. हालांकि, इसके लिए आपको परफ़ॉर्मेंस की तुलना और आंकड़ों की गणना मैन्युअल तरीके से करनी होगी.

कैंपेन-लेवल की रिपोर्टिंग का इस्तेमाल, एक ही कैंपेन में किए गए एक्सपेरिमेंट के ग्रुप की तुलना करने के लिए नहीं किया जा सकता. ऐसा इसलिए, क्योंकि ट्रैफ़िक का बंटवारा एक ही कैंपेन में अंदरूनी तौर पर होता है. कैंपेन के अंदर किए गए एक्सपेरिमेंट के लिए, campaign को क्वेरी करने पर सिर्फ़ कुल योग मिलता है.

सबसे सही तरीके

  • सही कॉन्फ़िडेंस लेवल चुनें: पी-वैल्यू थ्रेशोल्ड को कम पर सेट करने से, दिशा-निर्देश जल्दी मिल सकते हैं. ऐसा खास तौर पर कम बजट या कन्वर्ज़न वॉल्यूम के साथ होता है. 95% कॉन्फ़िडेंस (पी-वैल्यू <= 0.05) को अकैडमिक स्टैंडर्ड माना जाता है. यह लंबे समय तक ज़्यादा सटीक नतीजे पाने के लिए बेहतर हो सकता है.
  • एक्सपेरिमेंट को लंबे समय तक चलाएं: एक्सपेरिमेंट को कम से कम चार हफ़्तों तक चलाएं, ताकि हफ़्ते के हिसाब से परफ़ॉर्मेंस साइकल, कन्वर्ज़न में देरी, और लर्निंग पीरियड का हिसाब लगाया जा सके.
  • रैंप-अप होने में समय दें: ऑटोमेटेड बिडिंग (अपने-आप बिड सेट होने की सुविधा) या नई सुविधाओं की टेस्टिंग का इस्तेमाल करने वाले कैंपेन के लिए, पहले एक से दो हफ़्तों के डेटा को अनदेखा करें. इससे बिडिंग मॉडल और ट्रैफ़िक लेवल को स्प्लिट के हिसाब से फिर से ठीक किया जा सकेगा.
  • 50/50 स्प्लिट का इस्तेमाल करें: आम तौर पर, 50/50 ट्रैफ़िक का बंटवारा इस्तेमाल करने से, आंकड़ों के लिहाज़ से ज़रूरी नतीजे सबसे तेज़ी से मिलते हैं.
  • पहले से शेड्यूल करें: विज्ञापन की समीक्षा और मंज़ूरी की प्रोसेस के लिए समय देने के लिए, एक्सपेरिमेंट शुरू होने की तारीख को तीन से सात दिन बाद की तारीख पर सेट करें.
  • किसी भी समय, हर कैंपेन के लिए सिर्फ़ एक एक्सपेरिमेंट चलाया जा सकता है.
पीछे जाएं
ऐसेट ऑप्टिमाइज़ेशन एक्सपेरिमेंट
आगे बढ़ें
एसिंक्रोनस गड़बड़ियां