O Instituto Nacional de Padrões e Tecnologia (NIST) lançou uma nova iniciativa chamada “Avaliando Riscos e Impactos da IA” (ARIA), com o objetivo de avaliar as interações entre sistemas de inteligência artificial (IA) e usuários humanos. O foco é entender como esses sistemas impactam e são influenciados por fatores sociais.
De acordo com o NIST, o programa ARIA fornecerá métricas mensuráveis para avaliar o desempenho desses sistemas, abrangendo aspectos como validade, confiabilidade, segurança, proteção, privacidade e justiça. O objetivo é apoiar os esforços do Instituto de Segurança da IA dos EUA na criação de sistemas de IA confiáveis.
A iniciativa inclui três níveis de avaliação
- Testes de modelo: Verificação das capacidades dos modelos de IA.
- Red Teaming: Aplicação de testes de estresse para identificar vulnerabilidades.
- Testes de campo: Exame das interações entre indivíduos e IA em cenários cotidianos.
Alguns casos específicos de avaliação de modelos de IA incluem previsão de spoilers de TV, planejamento de refeições e descoberta de rotas.
O NIST planeja expandir a avaliação ARIA para incluir tecnologias generativas de IA, como modelos de texto para imagem, além de outros métodos de IA, como sistemas de recomendação ou ferramentas de apoio à decisão.
Reva Schwartz, líder do programa ARIA no Laboratório de Tecnologia da Informação do NIST, destaca que a ARIA considera a IA além do modelo, avaliando os sistemas no contexto realista de interação com as pessoas.
Essa iniciativa baseia-se no Quadro de Gestão de Riscos de IA lançado em janeiro de 2023, que descreve métodos para analisar e monitorar os riscos e impactos dos sistemas de IA.
A estrutura visa orientar as empresas na gestão dos riscos associados à implementação de sistemas de IA.
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
Somos o maior portal brasileiro sobre Criptografia e Identificação Digital
O CRYPTO ID TRILHOU UM CAMINHO INCRÍVEL NESSES 10 ANOS!!
Em novembro desse ano completaremos uma década dessa jornada. Levamos à cerca de dois milhões de leitores ano as melhores e mais atualizadas informações do mercado brasileiro e internacional sobre segurança digital e tecnologias que viabilizam a identificação de pessoas, empresas, aplicações e equipamentos em meio digital, recursos de assinatura eletrônica e controle de acesso para garantir transações seguras e confiáveis.
