マイクロソフトは、開発者が人工知能システムのセキュリティをテストするのに役立つオープンソースツールCounterfitをリリースしました。
開発者によると、このツールはAIシステムの脆弱性をスキャンし、ターゲットモデルの攻撃ログを生成するように設計されています。これにより、データサイエンティストは、テレメトリを使用してセキュリティをさらに強化します。
Microsoftは、Counterfitは環境、モデル、およびデータに依存しないことを示しています。これは、ローカル、エッジ、クラウドで使用され、テキストや画像を含むほぼすべての形式の入力に依存するAIモデルをテストします。
当初、同社は独自のニーズに対応するツールを作成しました。これは、AIモデルを攻撃するための一連のスクリプトでした。 Counterfitは後に、複数のAIモデルを大規模に攻撃する自動化ツールに進化しました。
「このツールは、ResponsibleAIとResponsibleAI Strategy in Development（RAISE）イニシアチブの原則に従ってサービスを保護するために、MicrosoftのAIシステムの脆弱性を評価するという私たち自身の必要性から生まれました」と同社はブログ投稿で述べています。
マイクロソフトは、航空宇宙大手のエアバスを含むいくつかのクライアントでCounterfitをテストしました。
4月末に、MicrosoftはIntelの脅威検出テクノロジを実装して、Defenderの企業エンドポイントセキュリティプラットフォームに隠れた鉱夫を見つけたことを思い出してください。
3月のIgnite2021会議で、Microsoftは開発者向けのAzureクラウドプラットフォーム向けの多数の新しいツールとサービスを発表しました。これらには、エッジデバイスでAIモデルを実行するためのプラットフォーム、Azure Cognitive Searchでのセマンティック検索、およびAzure ArcServicesが含まれます。
2021-05-06 00:49:48
著者: Vitalii Babkin