AIとの会話は、知り合いとの会話と何が違うのか

記事を執筆した弁護士

Authense法律事務所

弁護士　

高橋 麻理

（第二東京弁護士会）

慶應義塾大学法学部法律学科卒業。司法試験に合格後、検察官任官。約6年間にわたり、東京地検、大阪地検、千葉地検、静岡地検などで捜査、公判を数多く担当。検察官退官後は、弁護士にキャリアチェンジ。現在は、刑事事件、離婚等家事事件、一般民事事件を担当するとともに、上場会社の社外役員を務める。令和2年3月には、CFE（公認不正検査士）に認定。メディア取材にも積極的に対応している。
＜メディア関係者の方＞取材等に関するお問い合わせはこちら

AIとの会話について思うこと

AI警告が違法性の認識に与える影響

先日、被告人が無罪を主張している違法薬物密輸事件の公判で、生成AIと被告人との間の会話が問題となっている旨の報道を目にしました。

その報道によれば、被告人が、SNSで知り合った人物に海外からの荷物の受け取りを依頼され、その後、被告人が、生成AIに、報酬50万円で荷物を受け取るリスクを尋ねたところ、「薬物・違法物」と指摘を受けたとのこと。

さらに、被告人が、荷物が税関を通過した後に、荷物の違法性を質問したところ、AIより「安全合法ではない」と回答されたものの、被告人は、その荷物を受け取ったとのこと。

検察官は、公判の中で、この生成AIとの会話履歴を証拠として提出し、「被告人は、荷物の中身が規制薬物であると未必的に認識していた」と主張していると報じられています。

これに対し、被告人側は、「AIが100％合っているとは思っていない」などと供述し、このAIとのやりとりでは故意の立証として不十分である旨主張しているようです。

私は、直接裁判を傍聴しておらず、報道の限りでしか把握していないので、報じられている内容が、公判廷でのそれぞれの主張を正確に取り上げたものなのか、事実がどこにあるのかはわかりません。

でも、こういった生成AIとのやりとりが裁判の中で繰り広げられること自体、昔はなかったことで、興味深く感じました。

「生成AI」というワードが出てくると、途端に「新しい問題」「生成AIが普及してきたからこそ生まれた争点」感があって、つい身構えてしまいそうになりますが、よく考えると、その実態はこれまでの検討過程とあまり変わらないように思います。

たとえば、被告人が、海外から送られてくる荷物をうけとってくれれば報酬50万円払うという話を持ち掛けられたというケース。

まだ生成AIなどというものがなかった時代。

そんなときに、被告人が、「え？荷物を受け取るだけでそんな高額報酬がもらえるの？それって大丈夫？」と不安になり、知り合いに、「ねえ、こういう話についてどう思う？」と相談するなんてことはあったわけです。

相談を受けた知り合いが、「そんなの危険だよ。荷物の中身が違法な薬物である可能性もあるかもよ」などとアドバイスしたとする。

そのようなアドバイスを受けつつも、被告人は、荷物を受け取ることにした。

そんなケースは実際にもあるところです。

そんな被告人には、薬物密輸の故意が認められるか。

検討すべきは、被告人が、当該荷物を受け取るにあたり、その中身が、違法薬物であるかもしれないなと認識していたか。

被告人が、その荷物を受け取ることについて、違法である可能性を考えてすらいなかったら、被告人は、知り合いに、「ねえ、こういう話についてどう思う？」なんて相談しなかったんじゃないかとも言えそうです。

そんな相談をするということは、なんとなく、「やばい話なのかな」という不安があったからこそじゃないかと考えられるのかもしれない。

一方、まだ「どう思う？」と相談したというだけでは、その中身が違法薬物と結びついているかはちょっとわからない。

でも、知り合いが、荷物の中身が違法薬物である可能性があるのではないかと指摘したとしたら？

それを受けて、被告人が「荷物の中身は違法薬物かもしれないな」と思うかどうかは、その知り合いの指摘にどの程度の信用性があると被告人が考えるかにもよるかもしれない。

たとえば、その知り合いというのが、私だったとして、私が、知人である被告人に「あなたね、そんなうまい話あるわけないでしょう。そういう話を持ち掛けられたケースはだいたい荷物の中身は覚せい剤とかコカインとかそういった違法薬物なのよ。だから、そんな荷物を受け取っちゃいけないのよ」と熱弁をふるったとします。

「あんたね、10数年の刑務所生活になる覚悟があるの？」などと熱く訴えるかもしれない。

被告人としては、「昔検察官をしていて、今弁護士として刑事事件の担当をすることもある高橋がここまで言っているのだから、たしかに、荷物の中身は違法薬物かもしれないな」という認識をもつに至るのかも。

一方、その知り合いというのが、犯罪捜査と関わるような仕事をしているわけでもなく、ふだんから嘘とも本当ともわからないような都市伝説的なことを、さも本当っぽく言うような人だったとして、その知り合いが「もしかすると、中身は違法薬物だったりして！？」と言ったとする。

そうなると、もしかすると、被告人は、「こいつの言うことはいつも嘘ばかりで、根拠のない話ばかりだな。こいつに聞いた自分がばかだった」なんて聞き流してしまい、「違法薬物かもしれない」という認識をもつに至らないのかもしれない。

だとすると、被告人は、当初、ふと「この荷物、受け取って大丈夫かな。やばい話だったらどうしよう」と感じたその不安を、その後、どう処理したのだろうか。

さらに別の人に相談したのか？

仮に相談しなかったとしたら、どのように考えて、荷物を受け取ることにしたのか？

その判断過程は、それなりに「なるほど」と思えるものなのか？

このようにして、被告人が、いったいどのような認識のもとで荷物の受け取りをしたのかを評価していくのだろうと思います。

生成AIとの会話についても、結局、相手がAIなのか知り合いなのかが違うだけで、同じように考えることができるのかなと思っています。

AIとの会話の中で、AIから繰り出される指摘というものが、一般的に、また、この被告人にとって、どのような意味をもつものだったのか。

被告人が、これまでどのようなときにAIを利用し、そこで得られた指摘や助言をどう取り入れてきたか、などということも調べていくことになるのかもしれません。

もちろん、故意の認定に使われる材料は、このAIとの会話だけではないはずで、他の事実関係もあわせて評価していくことになります。

判決の中でどのような認定がされるのか、注目しています。