A ISO/IEC 42001 é a primeira norma internacional de sistema de gestão para o desenvolvimento e uso responsáveis da Inteligência Artificial (IA) nas organizações. Confira a seguir!

A Inteligência Artificial (IA) não é apenas um avanço tecnológico; ela está se tornando um elemento central da estratégia organizacional. Com o lançamento da ISO/IEC 42001, em dezembro de 2023 (e no Brasil em abril de 2024), entramos em uma nova era de gestão da IA...

A nova norma, a primeira em nível mundial, fornece diretrizes abrangentes para a gestão de sistemas de IA nas organizações. Ela é um passo revolucionário na padronização das práticas de gestão da IA, pois oferece uma abordagem sistemática para o desenvolvimento e uso responsáveis da Inteligência Artificial - além da possibilidade de certificação da organização interessada. A norma recém-publicada aborda especialmente os desafios únicos colocados pela IA, incluindo considerações éticas, transparência e a necessidade de aprendizagem contínua.

Para começar, vamos destacar o escopo declarado da ISO/IEC 42001(com ajustes e grifos nossos):

"Este documento especifica os requisitos e fornece orientações para estabelecer, implementar, manter e melhorar continuamente um sistema de gestão de IA (inteligência artificial) no contexto de uma organização.

Este documento destina-se ao uso por uma organização que forneça ou use produtos ou serviços que utilizem sistemas de IA. Este documento destina-se a ajudar a organização a desenvolver, fornecer ou usar sistemas de IA de forma responsável para alcançar seus objetivos e para o cumprimento dos requisitos e obrigações aplicáveis relacionados às partes interessadas e suas expectativas.

Este documento é aplicável a qualquer organização, independentemente do tamanho, tipo e natureza, que forneça ou usa produtos ou serviços que utilizem sistemas de IA".

Para que os leitores do nosso blog tenham uma visão mais detalhada da ISO/IEC 42001:2023 original, trazemos a seguir, em primeira mão, a pré-visualização da nova norma!

Para facilitar a leitura, clique aqui ou no botão superior do visualizador.

Muito além da certificação...

A ISO/IEC 42001:2023, que no Brasil foi lançada no último dia 18 de abril e recebeu a denominação ABNT NBR ISO/IEC 42001:2024 - Tecnologia da informação - Inteligência artificial - Sistema de gestão, é uma norma certificável, comparável à ISO 9001 sobre gestão da qualidade e à ISO/IEC 27001 sobre segurança da informação, mas vai muito além dos requisitos específicos de um Sistema de Gestão da Inteligência Artificial (SGIA), pois fornece também melhores práticas, regras e orientações para gerenciar riscos e fatores operacionais dos sistemas de IA.

A Gestão de Riscos relacionados à IA torna-se assim uma disciplina crucial e fundamental no desenvolvimento, implementação, manutenção e melhoria de um SGIA (o termo 'risk' é mencionado 134 vezes ao longo de toda a norma ISO/IEC 42001...).

Daí não termos dúvida de que as diretrizes da NBR ISO 31000:2018 poderão ser amplamente utilizadas também no contexto da nova 42001, bem como a expertise em Gestão de Riscos dos Profissionais Certificados C31000...!!

Igualmente, devemos enfatizar que a adoção da NBR ISO/IEC 42001:2024 pode gerar benefícios potenciais significativos para as organizações brasileiras como, por exemplo:

• Confiança e Credibilidade: A conformidade com a norma aumenta a confiança das partes interessadas em relação ao uso responsável da IA pela organização.

• Eficácia Operacional: A norma promove, além do uso responsável da IA, a eficácia no desenvolvimento da Inteligência Artificial, juntamente com o alinhamento aos objetivos organizacionais e padrões éticos estabelecidos.

• Vantagem Competitiva: As organizações que implementarem a ISO/IEC 42001 poderão obter uma vantagem competitiva no mercado, demonstrando seu comprometimento com práticas éticas e responsáveis de IA.

Quais são os principais papéis nos sistemas de IA?

Em linha com a NBR ISO 31000:2018 e a NBR ISO/IEC 23894:2023, Tecnologia da informação - Inteligência artificial - Orientações sobre gestão de riscos, a ISO/IEC 42001 estabelece que, ao implementar o Sistema de Gestão da IA, a organização deve inicialmente compreender o seu contexto interno e externo e determinar exatamente qual o seu papel (ou papéis) em relação aos sistemas de IA desenvolvidos, fornecidos ou usados por ela.

Esses papéis podem abranger, por exemplo:

• Fornecedores de IA, incluindo fornecedores de plataformas de IA, e fornecedores de produtos ou serviços de IA;

• Produtores de IA, incluindo desenvolvedores de IA, projetistas de IA, operadores de IA, testadores e avaliadores de IA, implantadores de IA, profissionais voltados aos fatores humanos da IA, e profissionais de governança e supervisão de IA;

• Clientes de IA, incluindo usuários de IA;

• Parceiros de IA, incluindo integradores de sistemas de IA e fornecedores de dados;

• Autoridades pertinentes, incluindo legisladores, reguladores e formuladores de políticas públicas.

Uma descrição detalhada desses papéis é fornecida na ISO/IEC 22989:2022, Information technology - Artificial intelligence - Artificial intelligence concepts and terminology... 

Além disso, os tipos de papéis e sua relação com o ciclo de vida dos sistemas de IA também estão descritos na Estrutura de Gestão de Riscos de IA do NIST - National Institute of Technology, dos Estados Unidos.

Os papéis da organização podem, afinal, determinar a aplicabilidade e a extensão da aplicabilidade dos requisitos e controles referenciados no Anexo A da ISO/IEC 42001.