正解率99.9%のAIが不正を1件も検知できない罠。AIの「原理」を学んでビジネスに活かす

「正解率99.9%」。そう聞けば、優秀なAIが完成したと喜びたくなる。
だがそれが不正利用を検知するために作られたAIで、肝心の不正取引を1件も検知できないとしたら。高い数字に見えて役に立たないAIと、現実の課題を解くAI。その分かれ目はどこにあるのか。

グロービス経営大学院の「AI&データサイエンス」は、生成AIと予測AI（伝統的な機械学習）の両方を、プログラミングなしで実際に手を動かしながら学ぶ科目だ。
カギを握るのは、AIの「原理」を理解しているかどうか。担当する鈴木健一教員は「原理を知らない人は、アルゴリズムが弾き出した表面上の数字に振り回され、本来の目的を果たせない。原理を知っている人は、アルゴリズムが何を基準に学習しているかをコントロールできる」と語る。
AIで何ができて、何ができないのか。それを見極め、適切なイシュー設定（答えるべき問いを正しく立てること）ができる力をどう養うのか。鈴木教員にその学びの中身を聞いた。

──AI&データサイエンスという科目では、どんなことを学ぶのでしょうか。

現在では生成AIの利用が一般的になっていますが、AIの歴史的な流れで言うと、生成AIが登場する前に、機械学習、つまり予測に特化したAIの利用という時代が長く続いていました。
今は生成AIに加えて予測AI（伝統的な機械学習）の両方が使える状態になっています。「知能の本質は予測だ」——『考える脳』の著者ジェフ・ホーキンスをはじめ、そう考える論者は少なくありません。実は予測ができるということはビジネスにとってもとても重要な意味を持っています。
この科目では生成AIのみならず、こういった機械学習（予測AI）の両方を取り上げて、ビジネスでの活用方法を学んでいくことを目的にしています。

──なぜ今、その学びがビジネスパーソンに必要なのでしょうか。

多くのビジネスパーソンが、生成AIをごく普通に使うようになってきました。生成AIは、原理を知らなくても使えます。
しかし、原理をよく理解すれば、より効率的な使い方ができる。生成AIも、原理を知った上で活用することが重要なのです。
さらに伝統的な機械学習、つまり予測AIについては、「予測できることの強みをどうビジネスに活かすか」をしっかり理解しないと、仕事やビジネスに活かすことはかなり難しい。
だからこそ適切なイシュー設定が重要になりますし、そのためには機械学習・予測AIの原理理解が必要条件になるのです。

──使い方だけでなく、原理の理解を重視されているのですね。

はい。使い方だけではなく、予測AIと生成AI、それぞれの原理、メカニズムの理解をしっかりした上で使ってもらうことに重点を置いています。原理を知らなくてもAIを使える時代が来ていますが、原理を知ることによってより効果的な利用が可能です。
結果として、AIさらにはデータサイエンスのできること・できないことを理解した上で、ビジネスに活用していくための適切なイシュー設定、課題設定ができるようになります。自分でやらないまでも、たとえばデータサイエンティストに対して適切な指示やイシュー設定ができる、そういったことも目指しています。

──原理を知っている人と知らない人で、実際の使い方や成果にどんな違いが出ますか。

たとえばクレジットカードの不正利用を検知したいケースを考えてみましょう。AIの世界では「予測」という言葉は、未来を予測する意味だけでなく「分類」の意味でもよく使われます。ここでは、一件一件の取引が不正かどうかを分類・検知するシステムを作ると想定します。
クレジットカード利用のほとんどは正常です。仮に99.9%が正常、0.1%くらいが不正利用だとします。原理を知らないで予測モデルを作ると、「どのくらい予測が当たっているか」という正解率を見てしまいます。
アルゴリズムは手っ取り早くエラーを減らすために、入力されたデータをすべて「正常」と予測するというサボった学習をします。
それでも全体の99.9%は正常なので、計算上の正解率は99.9%になる。原理を知らない人は「正解率99.9%の素晴らしいAIが完成した」と喜んで実運用に乗せますが、肝心な不正取引を1件も検知できず、全く役に立ちません。
原理を正しく知っている人であれば、こういった場合には正解率ではなく、不正のうちどのくらい見つけられたかという再現率（リコール）に注目すべきだと知っています。
もっとも、再現率だけを追えば「全部を不正と判定する」という逆方向のサボり方ができてしまう。だから誤検知とのバランスも見ながら、予測AIを作ります。原理を知らない人は表面上の数字に振り回され、本来の目的を果たせない。
一方で原理を知っている人は、アルゴリズムが何を基準に学習しているかをコントロールできるため、現実の課題解決に直結した成果を出すことができます。

──この科目では、どんなAIツールを使いますか。

Exploratoryという、ユーザーインターフェースに優れたツールを使っています。この授業では機械学習・予測AIの学習に使いますが、実はこのツール自体は広い意味でデータの分析にものすごく強力です。データの加工や可視化、統計処理といったことがかなり広範にでき、レポートやダッシュボードの作成もできる。データサイエンス・予測AI以外にも、いろいろ活用ができるツールです。

AIツール「Exploratory」の画面イメージ

──学生はそのツールの使い方を、どうやって学んでいくのですか。

Exploratoryのサイトには膨大なチュートリアル動画があるので、それを見てもらう形と、授業の中でもできる限り一緒に操作をして、演習などを解く中で学んでいただく形になります。

──ツールを使うことで、学生は何ができるようになりますか。

実際にデータから機械学習のモデル、つまり予測AIのモデルを作り、さらにモデルを評価するという一連の作業が一気通貫にできるようになります。この際、Pythonのコードを書くといったことは全く必要なく、基本的にはあたかもExcelを扱うような感覚で予測AIのモデルを作成することが可能です。

──誰でもモデルを作れてしまうなら、原理を知る意味はどこにあるのでしょうか。

実際に機械学習・予測AIのモデルを作るということだけを取れば、おそらく原理を知らなくてもできてしまいます。しかし、それを正しく使う、正しく予測モデルを作るということで言うと、やはりしっかり原理を知っていることが必須条件になります。ここで言う原理とは、たとえば「アルゴリズムは何を減らそうとして学習するのか」「モデルの予測精度をどのように評価するのか」「どの評価指標が目的に合うのか」といったことです。作る作業はExcel感覚でできても、何を作らせて、何で評価するかを決めるのは人間です。それが原理を知るという意味です。

──学んだことは、実際の仕事のどんな場面で活きますか。

ビジネスでは適切なイシュー設定、課題の設定が極めて重要です。この科目で学ぶことによって、特に予測AIを中心として、どういったイシュー設定でビジネスに使えるのかを理解し、自分でイシュー設定ができるようになります。これが極めて大事なところだと思います。
実際のところ、ビジネスでは必ずしも予測AIを使わなければならないということはなく、使うことなく解けるイシューがほとんどです。そうは言っても、予測AIを使うことによって適切に解けるイシューも数多く残っています。だからこそ、学生が直面する課題の中で、予測AIが使えそうなところを見極められる、あるいはそもそも予測AIを使うべきかも含めて見極められることが、重要なアウトプットになると考えています。

──その「見極め」の力は、授業のどんな場面で鍛えられるのですか。

一番重要なのはDay4のレポート課題です。かなり具体的なビジネスケースの課題に、予測AIを使って取り組んでもらいます。その過程で「こういった形で使えるんだ」という部分を体感するとともに、その文脈以外では使えないということ、さらに予測AIの利用の限界についても体感していただくことになると思います。

──印象に残っている学生の反応はありますか。

特に予測AIを通じて、半ばブラックボックスのようになっていたAIの原理がわかるという部分に関して、「アーハー」というのでしょうか、腑に落ちたという学生の反応を目にすることがよくあります。

──最後に、どんな人にこの科目を受けてほしいですか。

生成AIが好きで利用していて、その原理をもっと知りたいという方はもちろんですが、この科目では生成AIに加えて予測AI、伝統的な機械学習についてかなり時間を割いて学んでもらいます。生成AIに加えて伝統的な予測AI、機械学習に関心があり、それをビジネスにどう活かせるのか知りたい、学びたいという方にぜひ来ていただきたいと考えています。
特に事前知識や経験は想定していませんので、関心のある方には幅広く挑戦いただければと思います。
予測AIはもちろん、生成AIについてもその原理までしっかり理解することは、AIの効率的な活用に役立つのはもちろんのこと、理解できる、わかること自体も結構楽しいものです。ぜひこのクラスに来て、一緒に楽しく学んでもらえればと思います。