2023년 11월에 설립된 영국 인공지능 안전 연구소(AISI)는 AI의 테스트와 안전성 평가를 위한 Inspect 플랫폼을 출시했습니다. 이는 산업, 연구 및 과학 기관에서 AI를 평가하는 것을 간소화할 것입니다.
MIT 라이선스를 포함한 오픈 소스 라이선스로 제공되는 Inspect 도구 세트는 여러 영역의 AI 모델의 특정 능력을 평가하고, 모델의 기본 지식과 추론 능력, 그리고 결과를 기반으로 한 평가를 수행합니다.
TechCrunch 웹 사이트에 따르면, Inspect 플랫폼은 데이터 세트, 솔루션 도구 및 평가 도구로 구성됩니다. 데이터 세트는 평가 테스트용 샘플을 제공합니다. 솔루션 도구는 테스트를 수행하는 작업을 수행합니다. 평가 도구는 결과를 평가하고 테스트 점수를 지표로 총계화합니다.
Inspect 플랫폼은 미국 국립표준기술연구소(NIST)가 4월 말에 발표한 NIST GenAI 프로그램 발표 후 몇 일 후에 발표되었습니다. 이 프로그램은 텍스트와 이미지를 생성하는 모델을 포함한 다양한 생성적 인공지능 기술을 평가하는 데 목적을 두고 있습니다.
4월에는 미국과 영국이 AI 보안 분야에서 기술적 지식, 정보 및 우수한 전문가를 교환하기로 한 파트너십을 발표했습니다. 이 협력의 일환으로 미국에서는 AI 보안 연구소가 설립되어 AI 및 생성적 AI와 관련된 위험을 평가할 것입니다.
2024-05-12 17:14:56
작가: Vitalii Babkin
소스 URL