カスタムGPTsを悪用した攻撃と対策について
本ブログでは、「カスタムGPTsを悪用した攻撃と対策について」と題し、GPTsを悪用した攻撃手法と対策について解説します。本ブログが、GPTsのセキュリ…
- 攻撃手法
- 機械学習・AI
調査研究/ブログ
本ブログでは、「カスタムGPTsを悪用した攻撃と対策について」と題し、GPTsを悪用した攻撃手法と対策について解説します。本ブログが、GPTsのセキュリ…
本ブログは「生成AIセキュリティ」シリーズの第三弾です。これまで、DALL-E2やStable Diffusionなどの画像生成AIのSafety Fi…
テストサイトのソースコードの脆弱性をChatGPTに探させた結果を紹介します。
本ブログは「生成AI x セキュリティ」シリーズの第二弾です。 前回は「DALL-E 2などの画像生成AIに対する敵対的攻撃」と題し、OpenAIのDA…
DALL-E 2などの画像生成AIには悪用防止の目的でSafety Filterが実装されていますが、これをbypassする攻撃手法も次々と生み出されて…
今回は、筆者が開発に携わっているWebアプリケーションスキャナ(の一部)で、機械学習を取り入れる試みをした話について書きます。
自動運転車セキュリティ入門:第5回「意思決定モデルに対する敵対的攻撃 - 汚染攻撃 -」を公開しました。今回は、運転操作の意思決定に利用されるディープラ…
自動運転車セキュリティ入門:第4回「意思決定モデルに対する敵対的攻撃 - 回避攻撃 -」を公開しました。今回は、運転操作の意思決定に利用されるディープラ…
本連載は「自動運転車セキュリティ入門」と題し、ディープラーニング・モデルを採用した自動運転車に対する攻撃手法と防御手法を取り上げていきます。本連載を読む…