實驗審查
一場稽核怎麼進行
這不是通用顧問流程圖,而是我們審查行動應用 A/B 實驗時固定會走的節奏。適合想先確認合作方式的產品與資料團隊。
我們不要求一次交出整座程式庫。多數委託從實驗卡、事件字典與關鍵畫面錄影開始,必要時再約定有限的程式存取。
審查結束時,你會拿到分級發現與「現在能不能全量」的明確建議,而不是一長串無法排程的風格意見。
1. 對齊範圍
確認要查的實驗、平台與決策截止日。寫下不在範圍內的項目,避免事後擴大成全面產品審查。
2. 設計與假設
核對主指標、樣本估算、排除條件與停損線。標記事後才加入的次指標。
3. 實作與埋點
抽樣變體呈現路徑,比對事件屬性與變體標籤。特別看登入、重裝與深層連結。
4. 結果與干擾
覆核統計解讀、切片與外部行銷/故障重疊。區分可落地決策與僅供觀察的訊號。
5. 解說與下一步
開會對齊優先順序。需要時可另約複核,確認阻擋項是否關閉。