NIST AI Risk Management Framework — Dominar os riscos da inteligência artificial

O NIST AI Risk Management Framework é uma estrutura voluntária concebida para ajudar as organizações que desenvolvem, implantam ou utilizam sistemas de inteligência artificial a gerenciar seus riscos e a promover uma IA digna de confiança. Ele aborda especialmente a confiabilidade, a segurança, a resiliência, a transparência, a explicabilidade, a privacidade e os vieses. O NIST trabalha atualmente em sua evolução e também propõe um perfil específico para a IA generativa.

Ele é particularmente pertinente para as empresas que utilizam IA generativa, copilotos, sistemas decisórios ou agentes de IA, assim como para os setores regulamentados e as organizações em que um erro de IA pode ter consequências importantes.

A abordagem permite inventariar os sistemas, classificar seus riscos, determinar as responsabilidades, estabelecer controles e estruturar o monitoramento ao longo de seu ciclo de vida.

Esforço indicativo: 2 a 5 meses para estabelecer a estrutura inicial; 60 a 180 horas-pessoa internas; cerca de 100 a 250 horas Quantum Beyond.

A Quantum Beyond pode integrar o NIST AI RMF à ISO/IEC 42001, ao AI Governance Office, ao AI Onboarding, ao QKS, ao IAM e à cibersegurança, a fim de transformar os princípios em mecanismos operacionais.

O resultado é uma organização capaz de utilizar mais a IA sabendo, ao mesmo tempo, quais sistemas ela utiliza, quais riscos ela aceita, quais limites ela impõe e como detectará os desvios.