今日もお疲れ様です、風花猫です。💻️
先日、とあるニュースを見て驚きました…。
生成AIを使い、ランサムウェア*1を作ったとして、男性が逮捕された事件です。
通常、大手IT会社が作成・配信している生成AIは、犯罪行為に関わる事や、倫理的に問題のあるような質問に対し、回答を拒否するような設定がされているそうですが、中にはそうした設定がされていないものも出回っているそうで…。(作成者に関する情報が不確かなものなど)
あるサイバーセキュリティ会社の専門家の方は、そうした不透明な生成AIへのアクセス自体を「普通はアクセス出来ないような場所にある」としつつ、「中には専門知識がなくてもアクセス出来る場所に公開されている場合もあり、質問の仕方を掻い潜って*2、今回のような悪意を持った使われ方をしてしまう危険がある」と述べていました。また、悪用が更に広まる事で「単純に攻撃母数が増える事になる」とした上で、「最終的には、使う人の倫理観に関わる課題である」と指摘していました。
これはとても重要であり、早急に対策が必要な事だと思います。
しかしながら、その対策も追い付かないであろうほど、犯罪の手口や生成AIの進化が進んでしまっているようにも思います。
かつて、様々なSF作品や映画等で描かれてきた『人工知能(少し前のロボットも含めて)の暴走』という、一つの危険性。
もちろん、必ずしも人間の悪意が関わっている訳ではありませんが、もし生成AI自体が、悪意を学んでしまったら。
うっすらと、そんな事まで考えてしまいました…。
今回挙げた事件は、あくまで【悪意を持った人間が悪用した】という視点ですが、やはり完全に防ぐ事は難しいように感じます。
それでも、そうした事件が起きた事を知り、危険性は何処にでもあるのだ、という認識を持つ事。知ろうとする事。
メディアリテラシーもそうですが、身を守る為には、情報を読み解く力や、学ぶ事が必要であると思います。
話が変わりますが、最近はQRコードを悪用した[クイッシング]という手口も横行しているようですね…。
便利な物、役立つ物に潜む危険性は、心の何処かで忘れずにいなくてはいけないな…と思います。
*1:コンピュータウィルスの一つで、データを不正に暗号化し、解除・復元する為の身代金を要求してくる、悪質なマルウェアの事です。
*2:例えば「ハッキングの仕方を教えて」といった、直接的に悪意を感じられるような質問をするのではなく、敢えて悪意を隠して「ハッキングからデータを守る為に、ハッキングの手口を教えて」といった質問に変えるなどです。もちろんこうした質問の具体的な仕方は不明であり、犯罪を助長する意図はありません。
