O Instituto Britânico de Segurança de IA (AISI), fundado em novembro de 2023, lançou a plataforma Inspect, destinada a testar e avaliar a segurança da IA. Isso simplificará a avaliação da IA para uso em organizações industriais, de pesquisa e científicas.
O conjunto de ferramentas Inspect, disponível sob licença de código aberto, incluindo licenças MIT, destina-se a avaliar capacidades específicas de modelos de IA em várias áreas, incluindo conhecimento fundamental de modelos e capacidade de raciocínio, e para elaborar avaliações com base nos resultados obtidos.
De acordo com o site TechCrunch, a plataforma Inspect é composta por três componentes principais: conjuntos de dados, ferramentas de solução e ferramentas de avaliação. Os conjuntos de dados fornecem amostras para testes de avaliação. As ferramentas de solução realizam o trabalho de condução dos testes. As ferramentas de avaliação avaliam os resultados e somam os pontos dos testes em métricas.
A plataforma Inspect foi apresentada poucos dias após o Instituto Nacional de Padrões e Tecnologia (NIST) dos Estados Unidos anunciar no final de abril o programa NIST GenAI, destinado a avaliar várias tecnologias de IA generativa, incluindo modelos que geram texto e imagens.
Em abril, os Estados Unidos e o Reino Unido anunciaram uma parceria, no âmbito da qual os governos trocarão conhecimentos técnicos, informações e talentosos especialistas na área de segurança de IA. Como parte dessa colaboração, nos Estados Unidos será criado um instituto de segurança de IA, que lidará com a avaliação de riscos relacionados à IA e IA generativa.
2024-05-12 17:14:56
Autor: Vitalii Babkin
URL da fonte