法律人工知能（AI）、人工知能応用に関する研究に長年携わる明治学院大学法学部教授、櫻井さん。DXとともに導入が進むAIについて、法的な面からのお話を伺いました。

──AIの導入を企業が進めていく中で、これまでにはなかった新たな問題が生じてくると思われます。法律的な面で懸念されることはどんなことでしょうか。

　一番危惧されるのは「自己決定権」が損なわれるのではないか、ということです。「自己決定権」とは憲法13条に規定される“自由及び幸福追求に対する国民の権利”の一部と考えられているもの。わかりやすくいうと、ECサイトで一度商品を閲覧したり購入したりすると、その商品や関連したものが次々と推薦されるようになりますね。すると、おすすめされるままに商品を購入してしまうこともあるのではないでしょうか。でも後でよく考えてみると、本当に欲しかったものではなかったりします。つまり、こうしたことが企業にも起こりかねない。AIに導き出された答えによって、本来の方針や考え方が歪められてしまう可能性があるのです。
2つめは責任の所在についてです。日本でもレベル4の自動運転車の運行が始まったことが話題になりましたが、今後、レベル5の完全自動運転車が走るようになった時、もし事故が起こった場合の責任についてまだ明確化されていません。最近話題のChatGPTも同様です。ChatGPTは様々な公開情報をソースとしますが、偽情報や機微情報の発信、誹謗中傷、プライバシー侵害などの問題を引き起こしてしまう可能性もある。しかし、それはシステムを設置した人が悪いのか、AIを作った人に非があるのか、あるいはそもそも大元の情報を発信している人が罪に問われるのかなど責任の所在が曖昧で、法的にも検討しなければならない課題になっています。
そして3つめは著作権の問題です。

──著作権の問題とは具体的にどのようなことでしょうか。

　昨今では画像生成のAIが多く使われています。通常、人間が生み出した著作物は著作権で守られていますが、AIが作り出したものには一切著作権が認められていません。逆にいえばAIが作り出したものはコピーし放題ということです。
今後、技術がさらに発達すると画像だけでなく、マンガやドラマなどストーリー性を含むものも作り出されることも考えられますが、現状のままでは法律で守られないのが実状です。もちろん検討会のようなものはすでに動いていますが、まだ法制化にはいたっていません。
著作権を持たせるにもAIは人間ではありませんから、今までの著作権的な考え方でいいのか。そもそも短いつぶやきのようなものについては著作権が認められませんが、それと同じ理由で、いくつか簡単なキーワードを入力するだけでAIが作り出すものに対し著作性を認めるのか、といった問題も出てくるかも知れません。

──AIは膨大なデータを参照して何かを作り出したり導き出すわけですが、元データの著作権を侵害してしまうことはないのですか。

　その点はまた別の問題としてあります。例えば著作権がある画像であっても、今はインターネットで公開されているものが多数あります。しかし以前は日本では著作権のある作品の複製が認められていませんでした。その結果、インターネット上に掲載することができず検索エンジンが作れなかったのです。そこで検索エンジンを作るために利用制限の例外として著作権法を平成21年に改正しました。ですが、著作権法で「電子計算機による情報解析を行い、及びその結果を提供すること」は認められていますが、実際にその提供が「軽微利用」にあたるかどうかはグレーです。
また、著作権は画像などの美術や文芸、音楽といった作品だけでなく、OSやソフトウェアなどのプログラムも対象になっています。今はオープンソースも多数公開されていますが、誰もが勝手に自由に使えるわけではありません。あくまで一定の条件を遵守する限り、という条件が付いていることがほとんどです。以前から、これらをAIに学習させた時に元のデータが復元できてしまうかも知れないという問題は指摘されており、実際にAIが導き出したプログラムの中に著作権のあるコードが丸々含まれていたことがありました。
海外でも基本的には著作権のあるものは複製できません。しかし、アメリカではフェアユースという形で用途を限って著作権のあるものの利用を認めています。とはいえ、フェアユースを利用して利益を得ているケースもあり、どこまでをその範疇として認めるかなど、実際裁判なども起こっています。

AIはあくまで道具の一種
指示を出すのは人間

──AIによる法的リスクはいろいろあるのですね。

　申し上げたのは一部ですが、だからといってむやみに恐れる必要はありません。まずはAIがどういうものか、理解することが大切です。SF映画などではロボットが感情を持って人間を支配していく、といったストーリーが描かれますが、極端にいえばAIは言葉を理解しませんし、感情を持ちません。膨大なデータを処理し、統計的に淡々と必要とされる答えを導き出しているだけです。
技術の進歩によってディープラーニング※1やLLM※2の精度が上がり、私たち人間が期待する以上の情報を導き出してくれるので、AIは何でもできるすごいものと思われがちですが、あくまでその指示を与えるのは人間です。AIが勝手にどこかのデータを引っ張り出してくるようなことはありません。

──AIを使いこなすための能力が私たち人間に求められてくるということでしょうか。

　そうです。例えば、何かを検索する時、どの検索エンジンを使うかやキーワードの入れ方次第でひっかかる情報が変わるように、AIにどのような指示を与えるかでその働きは大きく変わります。従ってAIをコントロールする側の技術が必要になってくるというわけです。
また、国を挙げてDX化が推進されていますが、LLMもまだまだ進化し、我々の仕事の内容も大きく変わってくるかもしれません。AIは人間より優れた能力を持っていることも確かです。単に過去のデータをもとに答えを導き出すようなことであれば、人間の仕事がAIに置き換わることもあるでしょう。実際、南米ではChatGPTを使って判決文の下書きを作らせたりしています。

──AIと人間、それぞれが優れたところを分担することで発展していく、と。

　日本が世界トップレベルの国としてこの先も生き残っていくためには、AIを成長の道具として使うことは必須です。それにともない、法の整備も喫緊の課題です。
いたずらにAIを怖がる必要はないけれど、何も危機感を抱かなくていいというわけではありません。あくまで主体はAIではなく、人間であることを忘れないこと。その点を明確に意識しておけば最初に申し上げた「自己決定権」を放棄するような流れにはならないでしょう。
そして、AIが得意なデータの解析や単純作業は任せて、人間はさらにその上の部分で知恵を絞ることに時間を割く。正しいAIの使い方を学んでうまく活用していくことが法的な面から見ても大切です。

※1　ディープラーニング＝ニューラルネットワーク（人間の脳の神経回路の構造を模した数理モデル）を多層に重ね、複雑な判断や細かな処理ができるようにした機械学習の手法のひとつ。

※2　LLM＝Large Language Modelの略。大量のテキストデータを使ってトレーニングされた自然言語処理のモデル。質疑応答、翻訳、要約など様々なタスクに使用されている。

RECOMMEND

AI研究の第一人者で、とくにディープランニング分野を牽引する著者の本。まずAIとはどんなものかを理解するのに最適、と櫻井さん。

「人工知能は人間を超えるか　ディープラーニングの先にあるもの」松尾豊著 KADOKAWA　¥1,540(税込)

PROFILE

櫻井成一朗さんSeiichiro Sakurai
明治学院大学 法学部 消費情報環境法学科教授

社会情報学会(SSI)会長
工学博士