Use resúmenes de experimentos para diseñar mejores experimentos
Publicado: 2023-02-03Ya sea que su empresa recién esté comenzando su viaje de experimentación o ya haya establecido una cultura de experimentación, el uso de Experiment Briefs puede ayudar a democratizar la experimentación, diseñar mejores experimentos y crear transparencia sobre los objetivos y los próximos pasos para cada experimento.
Democratizar la experimentación
¿Qué entendemos por democratización? La democratización es el acto de hacer algo accesible para todos. Para democratizar la experimentación, las organizaciones deben hacer accesibles dos cosas:
- La capacidad de ejecutar experimentos debe ser accesible para cualquier persona en cualquier parte de la organización.
- Cualquiera debería poder acceder rápidamente a los datos y resultados clave de cada experimento.
Un excelente enfoque para democratizar los hechos clave y los resultados de un experimento es usar un resumen de experimento.
¿Por qué su equipo debería usar un Experiment Brief?
Diseñe mejores experimentos
Ejecutar experimentos es un componente fundamental del método científico, siendo científico la palabra operativa. El diseño de un experimento es una parte crucial del proceso, pero muchos equipos suelen pasar por alto este paso clave del proceso. Exploraremos esto con más profundidad en la siguiente sección.
Integre la transparencia en su proceso
Sin una documentación transparente, es fácil racionalizar las decisiones y encajarlas en una narrativa después de conocer los hechos, lo que conduce a malos resultados en la experimentación. Al documentar claramente los próximos pasos después de que se ejecuta un experimento, es mucho más probable que los equipos avancen en función de lo que aprenden del experimento.
¿Cómo es un buen experimento?
Muchos practicantes asumen que un experimento consiste en comenzar con una idea, construir un prototipo, probarlo y luego averiguar qué hacer a continuación. Equivocado.
Un buen experimento sigue el esqueleto del método científico. Estos conceptos básicos se trasladan al mundo de los experimentos digitales, junto con algunos componentes personalizados. Para que conste, cuando digo “buen experimento”, no me refiero al resultado del experimento. Un "buen experimento" habla de un experimentobien diseñado ".
Estos son los componentes críticos de un buen diseño de experimento:
Planificación (pre-experimento)
- Documente las observaciones que aclaren por qué planeamos realizar este experimento.
- Investigación para validar nuestras observaciones. Esta investigación puede ser cuantitativa, cualitativa, insights competitivos, etc.
- Cree una hipótesis con métricas o KPI claramente definidos
- Cree una alineación en los próximos pasos de su equipo en función de cada resultado posible: si cada variante gana o si la prueba no alcanza la significación estadística.
- Las características de la configuración del experimento incluyen la duración, la audiencia, la división del tráfico, el umbral crítico y más
- Articulación clara de lo que se está probando y modificando. Esto podría ser un cambio de diseño, una nueva función o experiencia, y más
- Confirme que el experimento se puede medir
Mientras se ejecuta el experimento
- Tableros de análisis para monitoreo continuo
Post-experimento
- Analizar los resultados
- Articule el resultado del experimento y avance con los siguientes pasos predeterminados.
El resumen del experimento
Ahora que entendemos en qué consiste un buen diseño de experimentos, podemos crear plantillas de nuestro proceso para garantizar que toda la información crítica se documente antes de que comience el experimento, siempre.
Esto facilita que cualquier persona en su organización aprenda sobre el experimento de forma asincrónica, lo que ayuda a habilitar la democratización.
Fase 1: Planificación
| Plan | ||
| Observaciones e ideas: ¿Qué observaciones llevaron a este experimento?Esta investigación puede ser cuantitativa, cualitativa, información competitiva, investigación de usuarios y más. | ||
| Definir el tipo de experimento: prueba de hipótesis o prueba de acción sin daño | ||
| Hipótesis | Observamos: Documentar el conocimiento cualitativo, cuantitativo o competitivo. | |
| Por: Introduciendo o modificando la variable independiente | ||
| Esperamos: defina el cambio de comportamiento que espera | ||
| Conduce a: Indique el impacto esperado en su variable dependiente | ||
| Para pruebas sin daño | ||
| Métricas: cuando introduzca cambios importantes, como una nueva experiencia en su producto, use una prueba de acción sin daños para las métricas primarias y de protección para detectar cualquier impacto negativo en sus métricas críticas. | Principal: podría ser una tasa de conversión | |
| Barandillas (opcional) | ||
| Para Pruebas de Hipótesis | ||
| Métrica | Principal: podría ser una tasa de conversión | |
| Secundario (opcional) | ||
| Barandillas (opcional) | ||
| Tamaño total de la muestra | ||
| Efecto mínimo detectable | Primario | |
| barandilla (opcional) | ||
| Nombre del evento del experimento | ||
| Parámetros de eventos del experimento | ||
| Acciones: ¿Qué acciones tomará en función de cada uno de los siguientes resultados de la prueba? | Ganar | |
| Perder | ||
| Piso | ||
Fase 2: Configurar
| Configurar | ||
| Diseños de variación | Variación 1: Defina cómo se diferenciará del grupo de control.También debe vincular a cualquier diseño relevante | |
| Variante 2 (opcional) | ||
| Asignación | Dividir: esto podría ser 50/50 | |
| Cohorte de audiencia: ¿Nos dirigimos a clientes existentes, nuevos usuarios, etc.? | ||
| Plataformas | ||
| Sección del sitio: ¿En qué sección de su producto se está realizando la prueba? | ||
| Tickets y análisis de JIRA (enlaces) | Análisis JIRA | Enlace |
| Tecnología JIRA | Enlace | |
| Análisis previo a la prueba | Enlace | |
| Análisis posterior a la prueba | Enlace | |
Fase 3: Monitorear
| Monitor | |||
| Fecha de prueba planificada | Desde: [MM/DD/AAAA] | Hasta: [MM/DD/AAAA] | |
| Duración (Días) | |||
| Asegúrese de que el seguimiento en análisis funcione: asegúrese de que: (1)el evento se active en plataformas, dispositivos y grupos de usuarios relevantes, (2)haya configurado nombres de eventos coherentes para el control y la variante en todas las plataformas, (3)el evento de exposición se active cuando los usuarios están expuestos al experimento | |||
Fase 4: Analizar y Decidir
| Analizar y Decidir | ||
| Análisis:documentar el resultado del experimento. | ||
| Decisión: Decida los próximos pasos en función de su fase de planificación. | ||
| Monitoree el desempeño continuo: Continúe analizando el comportamiento posterior al experimento | ||
Pensamientos finales
Estos resúmenes de experimentos se pueden categorizar fácilmente por fecha, segmento, sección del sitio web y plataforma. También deben ser accesibles para todos para que este conocimiento institucional persista incluso si la gente va y viene. El uso de Experiment Briefs puede ayudar a su equipo a mejorar su programa de experimentación al documentar de manera transparente cada experimento para democratizar esta información.

Me encantaría escuchar sus opiniones sobre esta plantilla y cualquier modificación que haría. Puede ponerse en contacto conmigo en LinkedIn o Twitter, o consultar mi blog.
Se puede encontrar un enlace a la plantilla del resumen del experimento siguiendo este enlace → Plantilla del resumen del experimento.
