A Gartner, uma das principais empresas de pesquisa e consultoria em tecnologia da informação, revela que os projetos de IA que aplicam os controles AI TRiSM têm mais sucesso na transição para a produção, geram mais valor para o negócio e alcançam maior acurácia e consistência dos modelos do que os que não usam.
Os modelos de IA que são gerenciados com TRiSM permitem às organizações ter mais controle sobre as possíveis parcialidades nas decisões e promover a equidade nas aplicações baseadas em IA.
A explicabilidade do modelo de IA é um aspecto fundamental que deve ser verificado continuamente por meio do monitoramento do modelo. Assim, garante-se que as explicações iniciais e as interpretações dos modelos de IA se mantenham válidas durante o funcionamento do modelo.
A Gartner oferece orientações para as empresas iniciarem o processo de gestão da confiança, do risco e da segurança da IA
– Crie uma equipe ou um departamento específico para coordenar seus esforços de AI TRiSM;
– Busque na sua organização as melhores ferramentas para gerir de forma eficiente um programa de AI TRiSM abrangente;
– Estabeleça políticas de uso adequado e crie um sistema para registrar e aprovar sistematicamente o acesso aos modelos de inteligência artificial e as declarações de usos reais.
Confira todas as tendências de TI para 2024
Menu
