「犯罪にAIが使われました」に思うこと

記事を執筆した弁護士

Authense法律事務所

弁護士　

高橋 麻理

（第二東京弁護士会）

慶應義塾大学法学部法律学科卒業。司法試験に合格後、検察官任官。約6年間にわたり、東京地検、大阪地検、千葉地検、静岡地検などで捜査、公判を数多く担当。検察官退官後は、弁護士にキャリアチェンジ。現在は、刑事事件、離婚等家事事件、一般民事事件を担当するとともに、上場会社の社外役員を務める。令和2年3月には、CFE（公認不正検査士）に認定。メディア取材にも積極的に対応している。
＜メディア関係者の方＞取材等に関するお問い合わせはこちら

「犯罪にAIが使われました」に思うこと

先日、ある報道に目がとまりました。
今年1月、東京・八王子市で、男子高校生が暴行を受け、鼻の骨を折るなどのけがをさせられた上、現金15万円を脅し取られそうになったという事件で、元交際相手の女子高校生ら5人が逮捕されたというもの。
報道によれば、女子生徒の知人が生成AIの「チャットGPT」に「児童に対する性被害」などと相談し、「示談金の最低額は15万円」という回答を得て、その金額をもとに脅し取る金額を決めていたとみられているそうです。
事件そのもののいたましさはもちろんなのですが、私はこの「AIに聞いた金額で恐喝」というくだりに、なんともいえない感覚を抱きました。

もっとも、私が感じた「なんともいえない感覚」というのは、「AIの言うとおりに動いてしまうなんて怖い」というような方向のものでは、実はありませんでした。
最近、報道に接していると、犯罪に至る経緯であれ、悩みの解決方法であれ、何か事が起きるたびに、その過程のどこかにAIが顔を出していると、「ほら、ここにもAIが介在しているぞ」と、ことさら大きく取り上げる傾向があるように感じます。
その上で、「だから、AIは怖い」「今の人たちは、なんでもかんでもAIだ。この世はAIに支配されようとしている」と、勢いよく騒ぐ。
私は、そのあたりに、ちょっとした違和感を覚えるのです。

今回の事件にしても、AIに何かを聞いたという事実そのものは、突き詰めれば、行為者が自分のしようとしていることについて、「これってどうなんだろう」と感じた疑問を解消するための一手段として、AIに尋ねたというだけのことなのかもしれません。
そうだとすると、それは、これまで誰かが本を開いたり、ネットで検索したり、知り合いに聞いたりしてきたことと、調べるための手段が変わった、リサーチの選択肢が増えた、というあたりにとどまる話なのかもしれないのです。
AIが介在していたという表層的なところで大騒ぎするのではなく、本当に検証されるべきなのは、その利用者の、その後の行動に、AIがなかった場合と比べて、AIがあったことが何らかの変容を加えたといえるのか、加えたとしたらどの程度の力でそうだったのか、というあたりではないかと思うのです。
これは、AIではなく、生身の人間が同じ場面に立ち会っていた場合を考えてみると、わかりやすいかもしれません。
もしAIではなく、ある人が、行為者から「ねえ、人からカツアゲするときの相場ってあるの?」と聞かれたとして、その人が「一般的にはこれくらいらしいよ」とだけ答えたのか、それとも、それに続けて、「だから、こういう属性の人からは、こう言えば、これくらいの金額は簡単に喝取できるよ。やったとしても、本人は警察に届ける心理的なハードルがあるはずだから、発覚せず安全だよ。やるといいよ」というところまで踏み込んだのかでは、その助言をした者の刑事責任に対する評価は、当然変わってくるはずです。
AIが絡む場合も、本来であれば、それと同じくらいの解像度で、AIがどこまでのことをしたのかを見ていく必要があるのだろうと思います。
そう考えていくと、報道の字面だけを見て、「AIが絡んだ事件」とひとくくりに評価してしまうのではなく、そのAIが、その人の意思決定や行動に対してどの程度の影響を与えたのか、もう一歩踏み込んで考えてみる必要があるのではないかと思うのです。
そして、こうした視点は、実は、子どもたちに対する教育の中でも、これからますます大事になっていくものではないかと感じています。
たとえば、子どもたちが学習にAIを使うことについて、最近はさまざまな意見がありますが、「使うか、使わないか」「使わせるか、使わせないか」という二者択一の議論にとどめてしまうと、本質的なところを取り逃がしてしまう気がするのです。
AIに何を聞いたのか。
返ってきた答えを、そのまま受け取ったのか、立ち止まって吟味したのか。
その答えを踏まえて、自分はどう考え、どう動いたのか。
AIの利用そのものを評価するのではなく、そのAIとのやり取りが、その子の思考や行動に対してどう作用したのかを、一緒に振り返るような関わり方ができるといいなと思うのです。
AIが絡んだ、というだけで色めき立つのではなく、その絡み方の中身を、丁寧に見ていく。
それは、AIとの付き合い方を考える上でも、そして、AIと共に育っていく子どもたちにどう関わっていくかを考える上でも、大人の側に求められている、地味だけれど大事な姿勢なのではないかと思うのです。
あくまでも一意見として。