本セミナーはWebセミナーです
ツールはZoomを使います。URLは直前にメールにてご連絡いたします。
なお、「osslabo.com」「majisemi.com」からのメールが迷惑メールとならないよう、メールの設定をご確認ください。
「ChatGPT」が急速に普及、「大規模言語モデル（LLM）」に集まる熱視線
近年、生成AI技術の研究や活用が進む中で、米国OpenAIの「GPT」、米国Googleの「PaLM」、米国Metaの「LLaMA」など様々な「大規模言語モデル（LLM）」が登場しています。それにより、言語処理タスクを高精度に実行することが可能となりました。
特に、2023年3月に「ChatGPT」のAPIが一般公開されたことで、自社の製品やサービスにGPTを利用した対話型アプリケーションの開発が急速に増えています。リアルタイムな応答システムやビジネスプロセスの自動化による業務効率化など、様々な利用シーンや活用メリットが期待できます。
新たなリスクとして問題視される「敵対的プロンプト」とは？
対話型AI技術を組み込むサービスが急速に普及する一方で、その特性を悪用した新たなセキュリティリスクが問題視されているのはご存じでしょうか。
それが「敵対的プロンプト（Adversarial Prompting）」です。敵対的プロンプトとは、LLMの出力を意図しない内容に誘導するように設計された一連の入力文のことを指します。敵対的プロンプトを悪用したサイバー攻撃の代表例が「プロンプト・インジェクション」です。プロンプト・インジェクションは、対話を通じてサービスの設定情報や秘密情報を抜き出そうとする新たなサイバー攻撃です。
その他にも「プロンプト・リーク」による秘密情報の漏えいや、「ジェイル・ブレイク」による非倫理的なコンテンツの出力などのセキュリティリスクが考えられます。
対話型AIを組み込んだサービス開発におけるリスクの詳細、留意点を分かりやすく解説
対話型AIを組み込んだアプリケーション・サービスを開発する上では、どのようなセキュリティリスクに注意すべきなのでしょうか。
本セミナーでは、LLM（大規模言語モデル）などのAI技術を活用したアプリケーション／サービスを開発したいと考えている部門や担当者の方を対象としています。「対話型AIを組み込んだサービス開発では、どのようなセキュリティリスクがあるのか」「そうしたリスクにどのように対処すべきなのか」を分かりやすく解説いたします。
対話型AIを活用するアプリケーション特有のセキュリティリスクについて知りたい方は、ぜひご参加ください。
講演プログラム
12:45～13:00 受付
13:00～13:05 オープニング（マジセミ）
13:05～13:45 「ChatGPT」など対話型AIを組み込むサービス開発でのセキュリティリスクとは？ ～ 新たな脅威である「敵対的プロンプトの悪用」を警戒すべき理由と留意点を解説 ～
13:45～14:00 質疑応答
主催
GMOサイバーセキュリティ byイエラエ株式会社（プライバシー・ポリシー）
協力
株式会社オープンソース活用研究所（プライバシー・ポリシー）
マジセミ株式会社（プライバシー・ポリシー）
当日会場アクセスに関するお問合せ
セミナー事務局
マジセミ株式会社（プライバシー・ポリシー）
※以下の方について、当社判断によりご参加をご遠慮頂く場合がございます。予めご了承下さい。
・講演企業の競合となる商品・サービスを提供している企業、同業の企業、及びそのグループ企業・関連企業の方
・個人や個人事業主の方
・海外から参加される方
・日本に活動拠点が無い企業の方
・その他、弊社及び講演企業が不適切と判断した企業・個人の方
※申込が多数の場合、弊社抽選にてご参加をご遠慮頂く場合がございますので、予めご了承ください。
※本コミュニティにてご提示いただいた情報、及び、申込時にご記載頂いた内容は、マジセミ株式会社にて収集し、マジセミ株式会社／オープンソース活用研究所、及び、主催・共催・協賛・協力・講演の各企業へ提供します。共催・協賛・協力・講演の各企業へは、主催企業を通して提供する場合があります。またプライバシーポリシーに定めがある場合は主催・共催・協賛・協力・講演の委託先にマジセミ株式会社から直接提供する場合があります。ご記入頂いた個人情報は、マジセミ株式会社／株式会社オープンソース活用研究所及び主催・共催・協賛・協力・講演企業の各プライバシーポリシーに従って厳重に管理し、各社のサービス、製品、セミナー、イベントなどのご案内に使用させて頂き、また各社のメルマガに登録させていただきます。ご記入頂いた個人情報は、法で定める場合や各社のプラバシーポリシーに特別な記載がある場合を除きご本人の同意を得ることなく第三者へ提供いたしません。利用目的遂行のため個人情報の取扱いを外部に委託する場合は、委託した個人情報の安全管理が図られるように、委託をする各社が定めた基準を満たす委託先を選定し、委託先に対して必要かつ適切な監督を行います。 お客様の個人情報に関する開示等は、お申し出頂いた方がご本人（代理人）であることを確認した上で、各社において合理的な期間および範囲で対応いたします。開示等の手続き、個人情報の取扱いに関するお問い合わせは下記のお問い合わせ窓口へご連絡下さい。
〔お問合せ先 及び 個人情報保護管理者〕 マジセミ株式会社 個人情報保護管理者 連絡先：03-6721-8548
