セキュリティとAIの活用
株式会社システムジャパン
チャットするだけでコードが書ける、文章ができる。そんな便利な生成AIが、いまや悪用されてのマルウェア作成やフェイクニュース、詐欺の道具に使われるケースが出てきています。
知らないうちに広がる“AI悪用”の現実。セキュリティの世界では今、警戒が強まっています。
これは対話型生成AIの画面です。
会話のような流れでプログラム作成などの様々な指示が可能なツールですが、これを誰でも簡単に悪用できてしまうのです。
本稿では、生成AIの悪用について過去の生成AIの悪用事例から今後想定される攻撃や影響、そして対策について説明します。
目次
1.過去のAI悪用事例
実際の事例
2024年5月27日、生成AIを悪用してマルウェアを作成した初めての事例として男性が逮捕されました。
この一件は、ITに精通していない人でも生成AIを用いることで悪意のあるプログラムを簡単に作成できてしまったことで注目を集めました。
そして2025年2月には生成AIを悪用して作成したプログラムで、携帯回線会社のシステムに不正接続し回線契約をしたとして「中高生3人」が逮捕されたと報じられました。
プログラム作成は担当していた一人が行っており、作成にあたり生成AIを悪用していたとのことで、生成AIを使用すれば中高生一人でも不正プログラムを作成できるというサイバー犯罪の敷居の低さが分かる事例でした。
生成AIと詐欺
詐欺や偽情報のような犯罪は生成AIと相性が良く、フィッシング詐欺では本物そっくりのメールを生成したり、なりすましでは有名人や特定人物になりすました文章、あるいは音声・画像と組み合わせて使用されたりと、生成AIを悪用して手口をより巧妙化しています。
また詐欺自体も犯罪者にとって非常に効率のよい金銭獲得の手法であると言われています。実際に米国のFBIの情報では昨年2024年はサイバー犯罪による損失が過去最高の125億ドルを突破し、1位が投資詐欺、2位がビジネスメール詐欺、3位がサポート詐欺・政府機関のなりすましとなっています。
2.AIの悪用と抜け穴
紹介した事例のように生成AIを悪用した事件がいくつも発生したことから、有名な生成AIは有害なリクエストの拒否など犯罪利用への対策を行いましたが、対策を回避する抜け穴があるそうで、いくつかの手段で悪用できてしまうという状態のようです。
実際に、紹介した日本の悪用事例２つは有名な生成AIを悪用しており、上記の抜け穴のような工夫をしていた可能性があります。
3.今後のAI悪用の脅威
これからは紹介した事例と同一の手口や、より巧妙に進化した手口の事例発生が懸念されます。
生成AIの発展・普及に応じて懸念される例をいくつか紹介します。
サイバー犯罪に悪用
海外の研究で、生成AIの仕組みを利用して増殖・拡散するハッキングツールの作成が実証されました。
これにより今後は生成AIの悪用だけでなく、生成AI自体がサイバー攻撃に組み込まれる可能性も否定できません。
サイバー攻撃の効率化の恐れ
生成AIの普及による影響として、システムの脆弱性や弱点を探す行為や詐欺対象の選定が自動化されたり、フィッシングメールなどの文章を犯罪者の詳しくない言語でも自然な文章を作成できるなど、サイバー攻撃の頻度と精度が上がってしまう可能性があります。
サイバー犯罪への参入障壁の低下
専門知識が無くても低コストで簡単に悪意あるプログラムを作成できてしまうため、サイバー犯罪に参入しやすくなっています。
これにより今後サイバー攻撃の件数が増加する可能性があります。
4.防御側のAI使用
ここまで生成AIによる脅威について記載しましたが、もちろんAIによって防衛側も進化しています。
上述した「生成AIが自動で脆弱性や弱点を探す行為」も防御側に当てはめれば、より先行して脆弱性を発見し対処できる技術と言えますし、ログ情報を解析し、不審な動作に対するアラートを上げる技術にもAIが活用されています。
他にも生成AIをセキュリティ業務のアシスタントとして採用する機能なども実装されていたり、問題の発生直後にセキュリティ対応をAIが自動実行することによって、効率的なセキュリティレベルの強化に繋がります。
5.効果的な防止案
サイバー攻撃に正しく早急に対処するには知識のある人材や人手が必要であり、対応にもかなりの日数が掛かってしまいます。
であればセキュリティソフト等で未然に防ぐことが理想なのですが、どのような機能が必要か分からない方も多いのではないでしょうか？
そこでお勧めしたいのがSentinelOneです。なぜオススメなのかを簡単に説明していきます。
「侵入させない」だけじゃない
通常のセキュリティソフトは「侵入させない」スタンスであり、侵入を許すと無力です。
ですので現在「侵入させない」だけでなく、「侵入される前提」で早期発見・被害の最小化を目的とする「EDR」と組み合わせるのが主流になってきています。
そしてSentinelOneは、高い検知能力を備えた次世代型AIアンチウィルス機能と詳細な可視化を実現するEDRが合わさったものになっています。
AI分析自動スコアリング
一般的なEDRの課題の一つである誤検知や過検知を、AIの自動スコアリングにより最小限に抑え、運用の手間を最小限にします。
自立型AIによる対応
ウイルスなどが侵入した際は、自立型AIにより即座に検知し、被害を最小限に抑えて隔離、そして精度の高い修復まで行うことができます。
SentinelOneは、高性能なAIによる検知や、自立型AIの高速な対応など、まさにAIによって進化した防衛手段の代表例と言えるセキュリティとなっています。
