TwitterなどのSNSを利用して、ウクライナが不利になるようなフェイクニュースを繰り返し投稿していたアカウントが、AIによって作成された実在しない架空の人物であることが明らかにされました。
反ウクライナを繰り返し主張していたSNSアカウントは、架空の人物になりすました偽物であり、アカウントのプロフィール画像は、GANｓ（敵対的生成ネットワーク）などのAI技術が用いられていたようです。そして、さらにそのフォロワーもAIに作られたニセのアカウントだったことのことです。
但し、このニュースさえも、疑いだせば真実なのかどうか確かめる必要があります。これ以外にも、フェイクニュースと疑われる記事は思いのほか多く、後を絶ちません。
テスラ社のイーロン・マスクを始めとする実業家・投資家によって設立された非営利団体の人工知能 研究機関であるOpenAIは、2019年2月に自然な文章を生成する言語モデルGPT-2を発表し、それがフェイクニュースの大量生成に悪用される恐れがあると話題になりました。
その後継モデルであるGPT-3は、主に自然言語処理の分野で使用される機械学習の教師なしのTransformer言語モデルを使用し、GPT-2の15億個より2桁大きい1,750億個のパラメータが含まれているそうです。
ある大学生が、GPT-3が書いたことを伏せたまま偽名で投稿したオンライン記事がニュースサイトのHacker Newsでランキング1位を獲得してしまったという事実を知ると、プロ級に人と同等な自然な文章を作成できてしまうことがわかります。これは、実験だったようですが、素人にはAIが書いたかどうかはわからないレベルに達しているようなので、これが悪用されればとても恐ろしいことになります。
真実かどうかわからない情報も、多くの人が掲載していれば信用されてしまいます。もし、AIが情報操作のために、事実と真逆の内容を創作するために利用されていたら、あるいは、デマを大量生産してに拡散するために使われたら、それが発覚したとしても、訂正記事程度の対処で収まるものではありません。
AIによって、人がやるより記事を書くことを簡単にし、自動化できるようになることは、DXなど業務改革の可能性が広がり夢のある話ですが、使用する人、使用の仕方によっては、ある意味、大量に兵器を作ることに匹敵するぐらい恐ろしいことになるかもしれません。ちょっとした、AIへの指示ミスで取り返しがつかないような大事になる可能性も秘めています。
真実かどうかの判断にもAIが利用されている現代において、少なからず、こうしたフェイクニュースは横行しているので、軍事利用されたりしたら、私たちはどのように対処していけばよいのでしょうか？
フェイクニュースは、AIで簡単に量産できてしまう
