Chuyển đến nội dung
Chandler Nguyen
Rời đi

Đang mở sàn làm việc…

Câu hỏi của CFO

CEO của GreenLeaf có một câu hỏi cho phòng họp, và AI đã soạn sẵn một câu trả lời cùng một kế hoạch. Cả hai trông đều đã hoàn chỉnh.

Quyết định cách chứng minh khoản chi ở Anh mang lại hiệu quả tăng thêm, rồi quyết định có nên triển khai một kế hoạch mà chính AI đánh giá là chưa sẵn sàng hay không.

  • CEO: “Chúng ta đang chi $35K mỗi tháng ở Anh. Làm sao tôi biết chúng ta không chỉ đang nhận công về mình cho những người vốn dĩ sẽ tìm đến chúng ta?”
  • Bản nháp đầu tiên của AI: tạm dừng quảng cáo trả phí ở một số vùng được chọn trong bốn tuần, so sánh với các vùng đối chứng, ít nhất 500 chuyển đổi ở mỗi vùng trong bốn vùng, tổng cộng khoảng 2.000.
  • Theo bảng kế hoạch: với $35.000 mỗi tháng và điểm hòa vốn $312, thị trường Anh thêm được khoảng 112 người đăng ký mỗi tháng; mục tiêu 5.000 lượt hoàn thành quiz của Q1 tương đương khoảng 1.670 mỗi tháng.
  • Đánh giá mức sẵn sàng của chính AI về kế hoạch giai đoạn cân nhắc: 35%, rủi ro cao. Trải nghiệm quiz cần chỉnh, tích hợp thiết bị đeo chưa xây xong, các luồng nuôi dưỡng chưa đầy đủ.
  • Ryan: Bản nháp cần khoảng 2.000 chuyển đổi trong bốn tuần. Trước khi hứa với CEO một câu trả lời, tôi muốn đối chiếu con số đó với những gì chúng ta thực sự có.
  • Jake: Kế hoạch được chấm 9 về tác động. Nếu chờ đủ mọi thứ, đối thủ sẽ lấy mất những người đang tìm kiếm.
  • Megan: CEO hỏi một câu rất xác đáng. Bất cứ thứ gì chúng ta gửi đi đều phải trả lời được câu hỏi đó, chứ không chỉ trông giống một câu trả lời.

Bạn trả lời CEO thế nào?

  • Chạy bản nháp của AI: bốn vùng, bốn tuần, mỗi vùng ít nhất 500 chuyển đổi: Đây là một thử nghiệm geo holdout đúng sách giáo khoa, bắt đầu ngay trong tháng này, và CEO có câu trả lời sau bốn tuần.
  • Thiết kế lại: lấy lượt hoàn thành quiz làm kết quả đo, gộp các vùng thành hai nhóm, kéo dài tám tuần: Gộp số lượt hoàn thành quiz trong tám tuần; thẩm định thiết kế trước khi hứa đưa ra câu trả lời.
  • Bỏ qua thử nghiệm: báo cáo số chuyển đổi do các nền tảng ghi nhận: Nhanh và không tốn gì, và khách hàng vốn đã đọc những con số này mỗi tuần.

Kế hoạch giai đoạn cân nhắc được đánh giá sẵn sàng triển khai 35%. Có nên khởi chạy?

  • Khởi chạy ngay; vừa chạy vừa vá những chỗ thiếu: AI chấm kế hoạch 9 / 9 / 7 về tác động, độ tin cậy và độ dễ thực hiện; mỗi tuần chờ đợi là một tuần bỏ lỡ nhu cầu.
  • Khởi chạy search và Meta ngay; giữ email lại cho đến khi có các luồng nuôi dưỡng khách hàng: Đón những người đang tìm kiếm ngay bây giờ, trong khi phần điều kiện chậm nhất được xây dựng.
  • Sửa ba chỗ thiếu trước: quiz, tích hợp thiết bị đeo, các luồng nuôi dưỡng khách hàng: Một quiz bị rò rỉ khách và không có luồng nuôi dưỡng sẽ làm lãng phí ngân sách; sửa trước ba chỗ thiếu đã biết rẻ hơn là phát hiện chúng khi đang chạy thật.

Bản nháp cần khoảng 2.000 chuyển đổi trong bốn tuần; thị trường Anh thêm khoảng 112 người đăng ký mỗi tháng. Sau bốn tuần, thử nghiệm còn xa mới đạt 500 chuyển đổi ở bất kỳ vùng nào: cả thị trường Anh chỉ thêm khoảng 112 người đăng ký mỗi tháng. Thử nghiệm không đọc được kết quả, và câu hỏi của CEO vẫn còn đó.

Chuyển đổi được ghi nhận không trả lời được câu hỏi khoản chi có tạo ra hiệu quả tăng thêm hay không. Báo cáo đếm những chuyển đổi mà các nền tảng tự nhận. Câu hỏi của CEO chính là liệu những người đó có đến dù không có quảng cáo hay không; khóa học theo dõi số người đăng ký tăng thêm, không phải số chuyển đổi được ghi nhận.

Dự trù tám tuần; thẩm định thiết kế và lực thống kê. Dự tính của tình huống: khoảng 770 lượt hoàn thành quiz cho mỗi nhóm gộp trong tám tuần. Con số này không chứng minh lực thống kê hay mức tăng người đăng ký thực sự do quảng cáo tạo ra.

Dữ liệu mà nền tảng dữ liệu của bạn để rải rác làm chậm việc đọc kết quả thử nghiệm. Phần đọc kết quả cần dữ liệu của mọi vùng ở cùng một chỗ, sạch và so sánh được, mà nền tảng dữ liệu của bạn đã để việc đó lại sau: câu trả lời phải chờ.

Các guardrail của bạn cho phép AI chuyển ngân sách giữa chừng thử nghiệm. Các guardrail của bạn cho phép AI chuyển tiền giữa các nền tảng, nên ngân sách có thể dịch chuyển giữa chừng và làm nhòe phép so sánh giữa các vùng.

Khởi chạy ở mức sẵn sàng 35% là tiêu tiền trước khi quiz và các luồng nuôi dưỡng kịp chuyển đổi số tiền đó. Chiến dịch đưa người dùng đến một quiz có trải nghiệm vẫn cần chỉnh, và không có luồng nuôi dưỡng phía sau. Khóa học nói: các đội thất bại vì kích hoạt khi hạ tầng chưa sẵn sàng thường hơn là vì chiến lược tồi.

Một phần kế hoạch vẫn dẫn người dùng đến một quiz chưa được sửa. Search và Meta đưa người dùng đến một quiz có trải nghiệm vẫn cần chỉnh; các luồng nuôi dưỡng đang tạm giữ lại.

Chờ đợi nghĩa là kế hoạch không thu về gì trong lúc các chỗ thiếu được sửa. Việc khởi chạy chờ trong lúc quiz, phần tích hợp và các luồng nuôi dưỡng được sửa.

Nguyên tắc khóa học và giả định tình huống

  • Giả định của tình huống suy ra từ số liệu khóa học: Bạn trả lời CEO thế nào?: Thiết kế lại: lấy lượt hoàn thành quiz làm kết quả đo, gộp các vùng thành hai nhóm, kéo dài tám tuần. Suy ra từ số liệu khóa học: bản nháp cần khoảng 2.000 chuyển đổi trong bốn tuần, trong khi Anh có thêm khoảng 112 người đăng ký mỗi tháng. Gộp lượt hoàn thành quiz trong tám tuần dự tính khoảng 770 lượt mỗi nhóm. Số lượt này không chứng minh lực thống kê: cần thẩm định nhóm so sánh, mức tác động có thể phát hiện và phương pháp phân tích trước khi hứa đưa ra câu trả lời. Hoàn thành quiz không trực tiếp chứng minh số người đăng ký tăng thêm do quảng cáo.
  • Kế hoạch giai đoạn cân nhắc được đánh giá sẵn sàng triển khai 35%. Có nên khởi chạy?: Sửa ba chỗ thiếu trước: quiz, tích hợp thiết bị đeo, các luồng nuôi dưỡng khách hàng. Khóa học: các đội thất bại vì kích hoạt khi hạ tầng chưa sẵn sàng thường hơn là vì chiến lược tồi; chính phần kiểm tra của AI cũng nói hãy sửa ba điều này trước.

Bạn đã chọn cách kiểm tra tác động gia tăng và thời điểm triển khai. Khóa học ưu tiên người đăng ký tăng thêm do quảng cáo và việc hoàn thiện điều kiện tiên quyết. Gộp lượt hoàn thành quiz là đề xuất của tình huống này, chưa phải thử nghiệm đã được thẩm định. Chờ đợi cũng trì hoãn việc thu hút nhu cầu.