DALL-E 2などの画像生成AIに対する敵対的攻撃
DALL-E 2などの画像生成AIには悪用防止の目的でSafety Filterが実装されていますが、これをbypassする攻撃手法も次々と生み出されて…
- 攻撃手法
- 機械学習・AI
- 脆弱性
RESEARCH/BLOG
調査研究/ブログ
Webアプリケーションスキャナで機械学習 - DBバージ…
今回は、筆者が開発に携わっているWebアプリケーションスキャナ（の一部）で、機械学習を取り入れる試みをした話について書きます。
- ツール
- 機械学習・AI
自動運転車セキュリティ入門 第５回：意思決定モデルに対す…
自動運転車セキュリティ入門：第５回「意思決定モデルに対する敵対的攻撃 - 汚染攻撃 -」を公開しました。今回は、運転操作の意思決定に利用されるディープラ…
- IoT
- 攻撃手法
- 機械学習・AI
- 脆弱性
自動運転車セキュリティ入門 第４回：意思決定モデルに対す…
自動運転車セキュリティ入門：第４回「意思決定モデルに対する敵対的攻撃 - 回避攻撃 -」を公開しました。今回は、運転操作の意思決定に利用されるディープラ…
- IoT
- 攻撃手法
- 機械学習・AI
- 脆弱性
自動運転車セキュリティ入門 第３回：クラウド連携に対する…
本連載は「自動運転車セキュリティ入門」と題し、ディープラーニング・モデルを採用した自動運転車に対する攻撃手法と防御手法を取り上げていきます。本連載を読む…
- IoT
- 機械学習・AI
- 脆弱性
自動運転車セキュリティ入門 第２回：センサー・カメラに対…
本連載は「自動運転車セキュリティ入門」と題し、ディープラーニング・モデルを採用した自動運転車に対する攻撃手法と防御手法を取り上げていきます。本連載を読む…
- IoT
- 機械学習・AI
- 脆弱性
自動運転車セキュリティ入門 第１回：自動運転車セキュリテ…
現在、世界各国で自動運転車の開発が盛んに行われています。 自動運転車は、人間が運転操作を行わなくとも自動で走行できる自動車と定義されており、カメラやレ…
- IoT
- 機械学習・AI
- 脆弱性
機械学習モデルの学習データを推論する方法
近年、機械学習を使用した医療診断技術や顔認識・音声認識技術などが登場しており、患者のレントゲン写真から病気の種類を予想するシステムや、顔認証を行うシステ…
- 機械学習・AI
細工した分類器を利用した任意のコード実行
TensorFlow models are programs. これは、著名な機械学習プラットフォームであるGoogle TensorFlowの「Usi…
- 機械学習・AI