t_wの輪郭

Feedlyでフォローするボタン
テスト実験ABテスト
『t_wの輪郭』の前景の順番をA/Bテストする2022年7月23日日記あれ『DMMの検索に機械学習を導入して、A/B テストで圧勝した考え方』「既存のUIと新しいUIのABテストでは、既存が有利になりがち」HEART FrameworkA/Bテストの実施休眠顧客でA/Bテストすれば安全に実験できる『ABalytics.js + Google Analyticsを使ったABテスト』ABalytics.jsA/Bテスト概論 / Introduction of ABTesting

HEART Framework

2022/10/5 9:05:00

プロダクト評価指標を作成する際の手順及びフレームワーク。HEARTで表されるそれぞれの指標について、それぞれ、Goals、Signals、Metricsの順で定義する。
GoogleのリサーチチームのKerry Roddenらによって開発された。

HEART

  • Happiness:利用者の態度。満足度・使いやすさ・net-promoter score など。主に利用者への聞き取りによって得られる。
  • Engagement:利用者の関与度合い。利用者の 利用頻度・熱意・深く利用しているか など。主にbehavioral proxiesによって得られる。
  • Adoption:製品や機能の新規利用者。7日間の新規に作成されたアカウントの数・新規機能を使用した利用者の割合 など。
  • Retention:利用者が再利用する割合。
  • Task Success:作業の完了にかかる時間・作業の完了率・作業の失敗率 など

Goals、Signals、Metrics

  • Goals:製品・プロジェクト の、ゴール・目標・利用者にとっての満足 など
  • Signals:Goalsの達成を表す、利用者の態度や行動。
  • Metrics:Signalsを定量化した指標。A/Bテストが可能な指標。

2022年7月23日日記

2022/7/23 20:39:00

土曜日なので休みだった。髪が伸びてきていたため、散髪に行った。さっぱりした。散髪の待ち時間がどうも苦手で仕方がない。もっと空いている床屋に行くべきだろうか

昼食にハラミステーキセットを食べたところ、おなかが痛くなった。過去に蕎麦で腹痛になったため、蕎麦アレルギーを疑っていたが、そうではなかったらしい。また胆石か何かができているのかもしれない。あまり痛くなるようなら病院に行こう。

過去の失敗が頻繁にフラッシュバックするようになってきた。過去の失敗内省するのは精神に悪いので、無理やり意識を他のことに移すようにしたい。

『t_wの輪郭』について、「個人の趣味発信のためにやっているこじんまりとしたサイト」との評をいただいた。正直な評価だが、この評価をいただいていることはある意味において大成功だと言える。
『t_wの輪郭』というのは、システムの利用に慣れているはずのIT技術者にすら「宇宙人が作った機械」だとか、「謎技術」だとか言わしめる超難解なシステムであるデライト(といってしまうと開発者の意図とは外れる)パクッ……転載……参考にして作ったウェブサイトである。その上で、閲覧に特化させることで可能な限りブログに擬態させ、デライトへの足掛かりとなることを目的の一つとしている。いただいた評価はブログに擬態という目的が達成されている証左である。
なんにせよ、「こじんまりとしたサイト」という評価であっても見てもらえることはありがたいことだ。より多くの人に見てもらえるべく、読みやすさ改善を進めていきたい。

『t_wの輪郭』にいくつか機能修正(Cookie利用許諾に説明文を追加『t_wの輪郭』の編集時刻をマウスホバーすると閲覧数を表示)をした。Cookie利用許諾に説明文を追加についてはA/Bテストを試してみている。A/Bテストをするのは初めてだ。A/Bテストを続けていけば、どこかに行きつくのではないかという気になっている。過度な期待かも知れない。それでも、正しくA/Bテストを実施すれば、読みやすさを損なるような、間違った方向に進むことを防止してくれるだろう。


あれ

2022/7/23 9:28:00

A/Bテストでは、テスト対象サービスの全ユーザーを現行施策適用ユーザーと新規施策適用ユーザーに分け、一定期間の観測結果でKPIに有意差が現れるか計測します。

これ良くなかった気がする。新規施策(新規機能)であることがユーザーの選好に影響するので、新規施策Aと新規施策Bでテストしないといけない。みたいなのをどこかで見た気がする。

探すとまあそういう情報は出てくる(「既存のUIと新しいUIのABテストでは、既存が有利になりがち」)。