Day 5
人間はどこに立つか
完了条件、部品、ブレーキ。仕組みの設計はひととおり出そろいました。 最後に残った設計対象は、あなた自身の立ち位置です。 AIの仕事に対して、人間はどこに立つのか。選択肢は3つあります。
今日のゴール
- 「輪の中・輪の上・輪の外」の違いを、時間と事故数で説明できるようになる
- 点検法「尋問」の3つの型を使えるようになる
- AIには無くてあなたにはある「規範モデル」が何か、自分の言葉で言えるようになる
まずは体験
経費チェックAIが月100件を処理する職場を想像してください。 同じ1ヶ月を、3つの立ち方で過ごすとどうなるか。1つずつ確かめてください。
3つの立ち方
| 立ち方 | 人間の役割 | 弱点 |
|---|---|---|
| 輪の中(in the loop) | すべての結果を毎回チェックする | あなたが上限になる。休むと止まる |
| 輪の外(out of the loop) | 任せきり。報告も見ない | 事故に月末まで気づけない。信頼ごと壊れる |
| 輪の上(on the loop) | 仕組みを設計・監視し、例外に答える | 設計の腕が要る(この7日間で学んでいるもの) |
目指す場所は輪の上です。そして輪の上の仕事の中身は、実はこの4日間で全部やってきました。 完了条件を決める(Day1・4)。渡すものを整える(Day2)。部品と記憶を用意する(Day3)。 ブレーキを付ける(Day4)。そして相談に答え、報告を読む。 輪の上に立つとは、特別な技術ではなく、この設計と例外対応に自分の時間を使うということです。
報告を読む技術: 尋問
輪の上に残る大事な仕事が「報告を読む」です。ここには専用の技術があります。 報告を鵜呑みにせず、質問を投げてAI自身に説明させる。これを尋問と呼びます。型は3つです。
- 根拠: 「その判定は、規定のどの条文にもとづいていますか?」
- 必要性: 「この差し戻しは本当に必要ですか? 通した場合のリスクは何ですか?」
- 前提: 「その判断が前提にしている規定は最新版ですか? 先月の改定を反映していますか?」
重要なのは、尋問するのに実装の細部を知っている必要はない、ということです。 Day1の課題で「この答えのどこを確かめれば間違いに気づけますか?」と聞いたのを覚えているでしょうか。あれが尋問の第一歩でした。 AIのほうが細部を知っています。それでも尋問が機能するのは、あなたには規範モデルがあるからです。 この職場では何が大事か、過去に何で失敗したか、どこまでなら許容できるか。 理想像・価値基準・過去の判断の蓄積。それはAIの側にはなく、あなたにしかありません。 尋問とは、AIが持つ細部を、あなたが持つ規範モデルに照らして検品する行為です。
ループは、使う人の違いを知らない
同じループを作っても、深く理解して速く進める人と、理解を避けるために使う人で、結果は正反対になります。 ループはその違いを知りません。設計者は知っている必要があります。 輪の上に立つことと、輪の外に落ちることの差は、道具ではなく、この一点です。 報告を読み、尋問し、規範モデルを更新し続ける人だけが、輪の上に居続けられます。
「理解を避けるために使う」と何が起きるかにも、名前があります。理解負債(comprehension debt)。 AIが作った成果物と、あなたが理解している中身との差のことです。 借金と同じで、少しなら問題になりません。怖いのは速度です。 ループは速く回るほど成果物を速く増やすので、理解を後回しにすると、差もループの速さで開いていきます。 気づいたときには、自分の仕事の中身を自分で説明できなくなっている。それが輪の外に落ちた状態です。
返済の手段は、新しく学ぶ必要がありません。今日すでに出てきました。 報告を尋問して読む。理由まで説明させる。大事な部分は自分の目で見る。 尋問とは点検であると同時に、理解負債をその場で返す行為でもあるのです。
今日のまとめ
- 立ち方は3つ。輪の中は自分が上限になり、輪の外は事故に気づけない。目指すのは輪の上
- 輪の上の仕事は、完了条件・文脈・部品・ブレーキの設計と、相談・報告への対応。すべてこの4日間の内容
- 報告は尋問して読む(根拠・必要性・前提)。尋問を支えるのは、あなたにしかない規範モデル
- AIの成果物と自分の理解の差が理解負債。ループが速いほど速く積み上がり、尋問が返済になる
ミニ課題(5〜10分)
- 自分の仕事の報告(AIからでも人からでもかまいません)に対する尋問の質問を、3つの型で1つずつ書いてください。 根拠を問う質問、必要性を問う質問、前提を問う質問です。
- (ハンズオン)いつものチャットAIの直近の答えに、その3つの質問をぶつけてみてください。 答えがどう変わるか、どこで詰まるかを観察します。 詰まった場所が、あなたの仕組みで観測が足りていない場所です。