これまで2回にわたり、AIをビジネスで活用する際の注意点や心構えについて、コラムとしてお伝えしてきました。
第一回はこちら
最後は今までの内容を踏まえて、AIにつきまとう“責任問題”について、利用者がどのようにあるべきか、考察しておきたいと思います。
AIの判断が期待していた結果と違ったら
生成AIに何かを質問・指示した際、返ってきた答えに対し「そういう事じゃないんだけど……」と感じたことのある方は、少なくないと思います。
そうしたとき、皆さんはどうされますか？おそらく多くの方が、プロンプトを細かく入力しなおしたり、質問の仕方を変えてみたり、なんらかの対策をとりますよね。
このような使い方ができていれば、AIをアシスタントであるツールとして、的確に使えているということになります。
予め自分の中に目的や目標、得たい情報や完成形のイメージがあり、AIが提供した情報に対し、あなた自身が価値判断を加えているからです。
しかし、もし未知の分野や詳しくない領域について、AIの出した結論を「なるほど」と鵜呑みにしてしまうことがあれば、要注意。
そこにはあなた自身の判断基準が何も含まれておらず、AIの判断に従っただけになってしまうからです。
そして残念ながら、AIの判断自体が参照した情報を含めて間違っていたり、理論上は正しいことでも実行した結果、世間から思わぬ批判を浴びるようなこともないとは言い切れません。
現実問題として、判断が間違っていたということは、AIでも人間でも起こりうることです。唯一の違いは、責任の所在。
人間が判断した場合はその人自身の責任になりますが、AIの場合、開発者なのか利用者なのか、はたまた誤ったデータを学習させた人なのか、いまだに答えが出ていません。
ではもしAIの判断が期待していた結果と異なる事態を引き起こしてしまったら、どうしたらよいのでしょう？
責任を持つとは判断理由を明確にすること
コラムの第二回で、AIとはナビゲーションシステムのようなものだと喩えてご説明しました。
詳しくはこちらをご覧ください
その喩えを使うなら、AIの判断が間違っていたとは、案内された目的地に目的の施設がなかったり、表示されたルートが通れなかったりしたようなものです。
でもこうした事態、割と「あるある」じゃないですか？着いてみたらお店が臨時休業だったとか、工事や事故で通行止めだったとか、誰しも一度はありますよね？
このようなとき、ナビの利用者であるあなたは判断を迫られます。別の店やルートにするか、諦めるか。近場で他の店を探すか遠くても同じジャンルで選ぶのか、有料道路を使うのか細い抜け道を探すのか、実に多くのことを決めなければなりません。
でもその際に、ものすごくお腹がすいていたら「どこでもいいから近くの飲食店に入ろう」とか、実家に帰るだけなら「時間がかかっても抜け道を探そう」とか選ぶことができます。
そしてその場合、楽しみにしていたお店に行けなかった同乗者も、あなたをずっと待っていた家族も、話せばきっと納得してくれますよね。
逆にもし、目的のレストランでプロポーズをする予定だったとしたら、どこでもよいとはいきませんし、そもそも予約をしておくべきです。
交通規制に巻き込まれたのが大事な商談へ向かう途中なら、迷わず高速道路を使うでしょう。「お金をかけたくないから遅刻しました」では、間違いなく商談は不成立になるからです。
AIの判断に責任を持つとは、こういう事ではないでしょうか。
そもそもどんな理由でどういう目的を設定したのか。その目的のために、どんな理由でどういうルートが最適だと考えたのか。そして万が一不測の事態が起きたなら、どんな理由でどういう対応をするのか。
その一つ一つの意思決定に明確な判断理由や根拠があれば、仮にAIの判断によりトラブルが起きたとしても、なぜその判断を採用したのか説明することができます。
その説明自体が関係者や世間に受け入れられるかは別問題ですが、少なくとも、何も考えずにトラブルを起こしたわけではなく、何かしらの考えがあってのことだとは示すことができます。
AIの判断に責任を持つ唯一の方法。それは、AIの判断を採用した理由を明確にすること、すなわち、AIの利用者自身が意思決定の基準を持つことなのです。
結論：人間以外に判断の責任はとれない
AIの判断の責任を取るために利用者が判断基準を持つということは、逆説的に、人間にしかAIの責任はとれないということになります。
つまり生成AIを使いながら、「この答えは正しいのか」と悩むことはナンセンスで、正しいと思うか間違っていると思うかは、あなたが決めなければなりません。
個人的に調べ物をしたりニュースを要約させたりする程度であれば、あなたが背負う責任は大して重くはないでしょう。しかしもしそれが、自社にぴったりのクラウドサービスを選定するためだったり、経営改善のヒントを得るためだったりしたらどうでしょう。
「AIのおすすめだから」という理由でビジネスの行方を決定してしまうことは、あまりにもリスクが大きいとは思いませんか？
AIを専門分野でアシスタントとして活用することは確かに有効です。しかし、「よくわからないことをAIで楽して知りたい」という理由で使うなら、それは望ましい使い方とは言えません。
「よくわからない」悩みがあるのなら、AIではなく「よくわかっている」専門家に相談すべきなのです。
なぜなら専門家の人間は必ず、あなたの悩みに対して解決策を提案する際の判断基準を持っています。つまり、あなたのビジネスに責任をもった判断をしてくれるのです。
“責任を持った判断”とは？実録エピソードはこちらをご覧ください
