英国でAIのセキュリティ評価プラットフォームが開始

2023年11月に設立された英国AIセキュリティ研究所（AISI）は、AIのテストとセキュリティ評価を目的としたInspectプラットフォームを開始しました。これにより、産業、研究、科学組織でのAIの評価が簡素化されます。

MITライセンスを含むオープンソースライセンスで利用可能なInspectツールセットは、さまざまな領域のAIモデルの特定の能力を評価するために設計されており、モデルの基本的な知識や推論能力、および結果に基づく評価を処理します。

TechCrunchのウェブサイトによると、Inspectプラットフォームには3つの主要なコンポーネントがあります。データセット、解決ツール、評価ツールです。データセットは評価テストのサンプルを提供します。解決ツールはテストを実行します。評価ツールは結果を評価し、テストのスコアをメトリックに集計します。

Inspectプラットフォームは、米国国立標準技術研究所（NIST）が4月末に発表したNIST GenAIプログラムの数日後に発表されました。このプログラムは、テキストや画像を生成するモデルを含むさまざまな生成AI技術を評価することを目的としています。

4月には、アメリカと英国が、AIセキュリティ分野の技術的知識、情報、優れた専門家を交換する枠組みの一環として提携を発表しました。この協力の枠組みでは、米国でAIセキュリティ研究所が設立され、AIおよび生成AIに関連するリスクを評価します。

著者: Vitalii Babkin