「自分とまったく同じように考え、同じ価値観で判断してくれる分身のようなAIがいたら、どれほど心強いだろう」
そんなワクワクするような理想を抱き、私はかつて「自分の分身となるAI」を育てて運用するプラットフォーム「初期Cognify（コグニファイ）」を作りました。ユーザーが自身の知識や経験、仕事に対するこだわりをAIに教え込み、自分とまったく同じ判断基準で動く相棒を作り上げるためのサービスです。そのコンセプトを描いたとき、胸が高鳴ったのを今でも鮮明に覚えています。目指した価値そのものは、今振り返っても間違っていなかったと確信しています。
けれど、プロダクトとしては明確に「失敗」でした。
当時残していた開発ノートには、痛烈な反省とともに、たった一行「AIの育て方が難しすぎた」と記されています。離脱率やユーザー数の詳細な数字をここで捏造するつもりはありません。ですが、制作者である私自身が「これは届かなかった」と打ちのめされるには、十分すぎる現実でした。
なぜ、あんなに熱量を持って作ったプロダクトが失敗してしまったのか。
問題は「AIに記憶を持たせる」という発想そのものではありませんでした。本当の原因は、AIがもたらす価値をユーザーが体験する前に、「何を、どのくらいの粒度で、どんな言葉で教えるべきか」という途方案ない「労働」を、一番最初にユーザーへ押し付けてしまったという設計の順番にあったのです。
失敗理由1：価値を体感する前に「入力作業」という労働を渡していた
分身AIを作れるCognifyの画面を開いたとき、ユーザーを待っていたのは「自由」ではなく「白紙の入力欄」でした。
理想の分身に近づければ近づけるほど、事前の設定項目は膨れ上がります。自分のこれまでの経験、文章の好み、仕事での判断基準……それらを思い出し、言語化し、AIがどう解釈するかを想像しながら入力していかなければなりません。
しかし、初めてそのプロダクトに触れた人にとって、「何を教えれば後でどう役立つのか」すら分からない状態です。霧の中を手探りで進むような作業を、成果も見えないうちから強要される。
制作者である私は、「自分好みに育てる楽しさ」を渡したつもりでいました。私自身、毎日AIと対話し、試行錯誤しながら自分だけのAIを作り上げるプロセスそのものが大好きだったからです。
けれど、ここにとてつもない落とし穴がありました。「作り手にとってのエンターテインメントを、ユーザーにとっての前提条件にしてはいけない」ということです。私たちが当たり前に感じる熱量や使い方は、決して多くの人にとっての当たり前ではありません。その苦い記憶もまた、当時の振り返りノートに深く刻まれています。
この失敗を経て、私はAIプロダクトを設計する際の最も根本的な問いを改めることになりました。
「どうやってAIを育ててもらうか」ではない。「まだ何も育てていない真っ白な初日に、いかに小さくても確かな価値を返せるか」。すべてはここから始めなければならなかったのです。
失敗理由2：「分身を作れる」という言葉で期待を上げすぎていた
「あなたの分身を作ります」という言葉は、強烈な魅力を持っています。
しかし同時に、この言葉はユーザーの中に「人間のように自分の意図を察し、少し教えるだけで自分らしく動いてくれるはずだ」という大きな期待を膨らませます。
現実はそこまで甘くありません。プロフィールや経歴のテキストをどれだけ集めても、人間が土壇場で見せる「不確実なら小さく試す」「利益より信用を優先する」といった複雑な判断基準は再現できないのです。
Googleが公開している「People + AI Guidebook」でも、AIプロダクトのオンボーディングについて重要な指摘がされています。AIの能力と限界を段階的に伝えること、技術の仕組みではなく「ユーザーが得られる便益」から説明すること、そして必要な機能を必要なタイミングで少しずつ紹介すること。
初期Cognifyの設計は、まさにこれと真逆でした。
私たちは「AI育成」という技術的な仕組みをドカンと前面に押し出し、ユーザーが「今日片付けたい目の前の仕事」を後回しにしてしまっていたのです。
AIを擬人化したり、「分身」と呼んだりすること自体が悪なのではありません。しかし、その言葉が約束する理想と、実際にユーザーに求められる泥臭い操作との間にギャップがあればあるほど、失望は深くなります。もし「分身」という理想を掲げるのであれば、「今のAIはまだ何を知らないのか」「どう使えば学んでいくのか」「間違えたときはどこで優しく修正できるのか」というリアルな手触りを、セットで提示しなければならないのです。
失敗理由3：「記憶する場所」と「作業するツール」を別々にしてしまった
Cognifyの失敗の後、私はもう一つの実験を行いました。タスク自動化エンジンの「Automata（オートマタ）」というプロダクトです。
これは、Cognifyに保存した自分の知識や思考パターンを連携させ、自分らしい文体や判断基準でSNS投稿やブログ記事の執筆を自動化しようという試みでした。
発想の一貫性という意味では筋が通っていたかもしれません。しかし、これもまたユーザーに使いにくさを強いる結果となりました。当時の記録には、自分の言葉で「脳と道具は統合すべきだった」と残されています。
「記憶を蓄える場所（Cognify）」と「実際に作業を行うツール（Automata）」が別々に分かれていると、ユーザーは2つのシステムを理解し、接続を管理し、エラーが起きていないかを常に気にかけなければなりません。
記憶とは、独立した鍵付きの倉庫であるべきではないのです。目の前の仕事の流れの中で、必要な瞬間にだけ静かに、裏側で機能するものでなければなりません。
巨大で固定された設定ファイルを常にAIに抱えさせるのではなく、会話の文脈やタスクの目的に合わせて、必要な知識と思考の癖だけをスーッと引き出して使う。失敗を重ねた末に、私はようやくその自然な関係性にたどり着きました。
設計の改善策：会話から自然に学ばせる「5つのステップ」
もし今、私がゼロからAIの記憶機能を設計するなら、ユーザーに「教え込ませる」のではなく、対話を通じて「自然に寄り添う」次の5つのステップを踏みます。
- 初回価値（無傷のスタート）：記憶がゼロの状態でも、ユーザーが今すぐ片付けたいタスクを1つ、確実に完了させる。
- 学習候補の受動的収集：会話や選択のやり取りの中から、「次回に活かせそうな好みや判断パターン」をシステム側が静かに候補として拾い上げる。
- 記憶の可視化（透明性）：AIが何を覚え、どの回答のどこでその記憶を使ったのかを、ユーザーがいつでも目で確認できるようにする。
- その場での軽い訂正：誤った記憶や勘違いがあれば、会話の途中でも設定画面でも、1タップや短い言葉でサッと直せるようにする。
- 停止と削除の主権：覚えさせたくない場面では学習をOFFにでき、不要になった記憶は項目単位でいつでも消去できるようにする。
たとえば、現在のChatGPTに搭載されている「Memory」機能も、会話の文脈から重要なポイントを自動で記憶要約として更新し、ユーザーがそれを一覧で確認・修正・削除できる設計になっています。これは特定製品の真似をすべきという意味ではなく、「裏側での自動化」と「ユーザーによる主権（制御）」が同じ場所に同居しているという点が重要なのです。
Microsoftの「Human-AI Interaction Guidelines」でも、AIの誤った出力を直ちに訂正・取り消しできること、不要なAIの挙動を拒否できること、そしてユーザーの操作が今後のAIの学習にどう影響するかを明示することが強調されています。AIの学習を自動化すればするほど、ユーザーからコントロール権を奪うのではなく、むしろ「いつでも手綱を握れる」安心感を与えなければならないのです。
手動育成の扱い方：「必須の初回ハードル」から「上級機能」へ移す
ここで、ひとつの疑問や反対意見が浮かぶかもしれません。
「手動で知識を選び、言葉を推敲し、AIのキャラクターを細かくチューニングする作業にこそ、愛着や独自性が宿るのではないか？」
私自身、毎日AIと向き合い、対話を通じてチューニングすることに喜びを感じる人間です。だからこそ、その意見の正しさも痛いほど分かります。自分の手でAIを育て上げるプロセスには、間違いなく創作としての楽しさや愛おしさがあります。
だからこそ、私は「手動で教える機能」を完全に排除したいわけではありません。
大切なのは、それを「初回利用の必須ハードル」から外し、「もっと使い込みたい人のための上級機能」へと移すことです。
勝手に学習するだけ（暗黙の学習）では、なぜAIがそう判断したのかが分からず、どこか気持ち悪さが残ります。かといって、手動入力だけ（明示的な入力）では、始める前に疲れてしまいます。
通常の使い方の中でAIが自然に学習候補を作り、人間がそれを確認して「もっと深く教えたい」と思ったときだけ手動で調整する。この2段階のグラデーションこそが、人とAIが長く付き合うための心地よい距離感なのです。
NIST（アメリカ国立標準技術研究所）の「Privacy Framework」においても、個人データを十分な粒度で確認・修正・削除できることや、データの最小化原則が挙げられています。AIの記憶機能において「たくさん覚えさせること」自体を成功指標にしてはいけません。「最小限の必要な記憶だけで、どれだけ豊かな価値を返せるか」を問い続けるべきなのです。
プロダクト設計で問い直す「6つのチェック項目」
私が今後、人格AIや記憶AIのプロダクトを設計する際には、必ず次の6つの問いを自分自身に突きつけると決めています。
- 記憶がゼロの初日でも、1つの仕事を完了できるか？
- ユーザーは「何を教えるか」を悩まず、普段通りの会話や操作から始められるか？
- AIが何を覚え、なぜその回答をしたのかを、ユーザーが後から確認できるか？
- 勘違いや間違いを、一回の簡単な操作や短い会話で訂正できるか？
- ユーザーの意思で、いつでも学習を停止し、項目ごとに記憶を消去できるか？
- 成功の指標を「記憶の蓄積量」ではなく、「初日価値までの速さ」「訂正後の質の向上」「再利用時の心地よさ」に置いているか？
Google PAIRのガイドラインでは、製品の評価指標が一定の閾値を超えたときの挙動まで設計することが推奨されています。たとえば、ユーザーから何度も訂正される記憶項目があった場合, それを自動で適用するのをやめ、「確認待ちの候補」に戻すといった安全弁です。
単にプロダクトの継続率を見るだけでなく、「間違えた記憶をどれだけ安全かつスムーズに元に戻せるか」という運用品質こそが、AIプロダクトの真価を問うのです。
結論：「AIを育ててください」ではなく「この仕事を一緒に終えましょう」
初期Cognifyの開発で私が犯した最大の過ちは、「AIを育てる」という美しい思想そのものではありませんでした。その育成という重いプロセスを、価値を受け取る前のユーザーに「前払い」させてしまったことにありました。
AIは、使う前に苦労して完成させなければならない「身代わり人形」ではありません。
まず目の前で役に立ち、会話を重ねる中で少しずつこちらの好みや価値観を理解し、もし勘違いしたら「ごめん、そうじゃないんだ」と軽く直していける。そうやって時間をかけて築いていく「関係性」そのものなのです。
ユーザーに向かって「まず、あなたのAIを育ててください」と頼むのは、もうやめましょう。
そうではなく、「今日のこの仕事を、一緒に終わらせましょう」という一言から始めるのです。
AIが育っていくことは、利用を開始するための「参加条件」であってはなりません。価値を受け取り続けた時間の先に残る、愛おしい「結果」であるべきなのです。
失敗という痛い授業料を払ったからこそ、私はこの順番を何よりも大切にしながら、これからも新しいプロダクトを作り続けていきます。
