Aidia
机の書類にペンを入れる人物と、その判断を見守るロボットを描いたイラスト

「AIに任せる」と「責任を持つ」は両立する。会社が決めるべき境界線

こんにちは、おぐりんです。

「AIを使っても、最後に責任を取るのは人間です」。僕もそう考えています。ただ、この言葉が「だから、自分で正しさを判断できる仕事しかAIに任せてはいけない」という意味になると、少し違うと思っています。

自分で全部できることしか任せられないなら、AIができる仕事の範囲も、自分の能力までに限られてしまいます。人が責任を持つことと、成果を出すための過程をAIに任せることは、両立できるはずです。今回は、そのために会社がどこで線を引くかを考えたいと思います。

「責任を取れる範囲」を、自分ができる範囲にしない

AIが考えた提案を見て、「自分にはこの分野の知識がないから、良いかどうか判断できない」と感じる。そんなとき、任せるのをためらうのは自然です。僕も、根拠の分からない提案を何でも実行すればよいとは思っていません。

ただ、そこで「自分が詳しくなるまで使えない」とすると、AIに任せられるのは、自分がすでにできる仕事を早くすることだけになります。自分より詳しい人へ仕事を頼むときまで、すべてのやり方を自分で説明できることを条件にはしないはずです。

AIでも、何を目指すか、どんな影響まで受け入れられるか、どう結果を見るかを決めることはできます。僕は、その設計まで含めて、人が責任を持つということだと捉えています。

問題が起きたときの責任と、成果を伸ばす仕事を分ける

僕が分けて考えたいのは、トラブルや損失を引き受ける責任と、成果を高める方法を考え、試し、改善する仕事です。会社として引き受けられない影響は、人が制御する。その範囲の中では、AIにも考えさせて、仕事を進めてもらいたいと思っています。

たとえば、営業メールです。相手に失礼な表現を使う、事実と違う約束をする、別のお客様の情報を送る。こうした問題が起きれば、「AIが作ったので」で相手が納得してくれるわけではありません。会社として守るべき条件があります。

一方、どんな切り口なら関心を持ってもらえるか、説明の順序をどう変えたら伝わるかは、AIに考えてもらえる領域です。人が普段書いている文章と違う、というだけで直していたら、今までのやり方を超える機会も失ってしまいます。

僕は、相手への配慮や約束の条件を守りながら、提案の切り口は試してみる、という任せ方をしたいです。そこで反応が良くなったかどうかを確かめ、次の提案へ戻していく。成果を出すための仕事をAIに任せるとは、そういうことだと考えています。

先に考えるのは「失敗したら、何が起きるか」

任せる範囲は、仕事の名前だけでは決まりません。「文章作成なら任せてよい」と言っても、社内で考えるためのメモと、お客様へ送る契約条件の説明とでは、間違ったときの影響が違います。同じAI、同じ文章作成でも、使う場面によって判断は変わります。

社内のアイデア出しで、使えない案がいくつか混ざる。その程度なら、試すことで得られるものの方が大きいかもしれません。一方、個人情報が外へ出る、顧客との約束が変わる、事業を続けられないほどの損失が出る。そうした影響を同じ感覚で受け入れることはできません。

だから僕は、「AIはどのくらい正確か」と一緒に、この仕事で起こりうる大きな失敗を、会社として引き受けられるかを考える必要があると思っています。間違いの確率だけを見ていても、起きたときの影響が大きければ、任せ方は変えなければいけません。

責任を取るというのも、担当者が一人で謝ればよいという話ではありません。影響を受けた相手に説明する、修正する、必要な対応を続ける。その負担を会社として負えるのかまで含めて、任せる範囲を決めたいです。

境界を決めたら、その内側ではAIを動かす

研修では、砂場のようなイメージで説明することがあります。安全に遊べる場所を用意して、その中では自由に動いてもらう。AIも、何でもできる状態で任せるより、触れてよい情報や操作できる範囲を決めた方が、仕事を渡しやすくなります。

営業メールなら、使える顧客情報、変えてはいけない料金や条件、送信してよい相手を決める。まだ任せきれない段階では文案の作成までにとどめ、送信は人が行う。逆に、同じ条件で繰り返せる仕事なら、確認の仕組みを整えながら、任せる部分を広げていくことも考えられます。

「気をつけて」と伝えるだけでなく、必要以上の情報にアクセスできない、許可していない操作は実行できない、といった仕組みも大切です。アカウントを使わせるときの具体的な考え方は、関連記事で整理しています。

大切なのは、境界を作ることだけで満足しないことです。せっかく範囲を決めても、毎回すべてを人が判断し直すなら、AIに任せた意味は小さくなります。人が止めるべきところを明確にして、その内側ではAIが仕事を進められる状態を目指したいと思っています。

任せっぱなしにせず、結果を次の仕事へ返す

範囲を決めて任せた後に、もう一つ必要なのが、結果をAIへ返すことです。営業メールなら、どんな返信があったか、商談につながったか、どこで話が止まったか。文章を作らせて終わりにせず、その後に起きたことまで渡して、次の仮説を考えてもらいます。

ただし、結果を返せば自動的に良くなるわけではありません。返信が少ない段階で、たまたま一件うまくいった表現を「正解」としても、判断を誤ることがあります。最初は一般的な知識や人の経験から仮説を立て、試しながら、判断できるだけの情報を増やしていく必要があります。

そのうえで、何が良くなり、何が悪くなったかを見ていく。成果が伸びなければ、情報の渡し方や仕事の進め方を変える。許容できない影響が見えたら、人が止める。AIに改善を任せることと、人が境界を管理することを、一緒に続けるのが重要だと思っています。

毎回、人が好みに合わせて完成品を直すだけでは、人の能力の中にAIを閉じ込めてしまいます。目指す成果と守る条件を渡し、結果から改善できるようにする。その方が、人が思いつかなかった方法を試せる余地も広がります。

責任を明確にするのは、もっと任せるため

「AIがやりました」で済ませられない場面はあります。だからといって、すべてを人が作り直し、すべての判断を人に戻せばよいとは思いません。僕が考えたいのは、責任を持ちながら、今より多くの仕事をAIへ渡す方法です。

まずは一つの仕事で、何を良くしたいのか、失敗したら誰にどんな影響があるのか、どこまでなら会社として引き受けられるのかを話してみる。その境界の中でAIに何を任せ、どんな結果を返せば改善できるかを考えると、単に「使ってよい・いけない」を決めるより、具体的な議論になります。

この線引きは、会社や仕事によって違います。AidiaのAI顧問でも、実際の業務を一緒に試しながら、会社として続けられる任せ方を考えていければと思っています。

おすすめ関連記事
・AIにアカウント操作を任せるときの権限の考え方
・AIの間違いとどう付き合うか、ハルシネーションを考える