A ISO/IEC 42001 é a primeira norma internacional de sistema de gestão para o desenvolvimento e uso responsáveis da Inteligência Artificial (IA) nas organizações. Confira a seguir!

A Inteligência Artificial (IA) não é apenas um avanço tecnológico; ela está se tornando um elemento central da estratégia organizacional. Com o lançamento da ISO/IEC 42001, em dezembro de 2023 (e no Brasil em abril de 2024), entramos em uma nova era de gestão da IA...

A nova norma, a primeira em nível mundial, fornece diretrizes abrangentes para a gestão de sistemas de IA nas organizações. Ela é um passo revolucionário na padronização das práticas de gestão da IA, pois oferece uma abordagem sistemática para o desenvolvimento e uso responsáveis da Inteligência Artificial - além da possibilidade de certificação da organização interessada. A norma recém-publicada aborda especialmente os desafios únicos colocados pela IA, incluindo considerações éticas, transparência e a necessidade de aprendizagem contínua.

Para começar, vamos destacar o escopo declarado da ISO/IEC 42001(com ajustes e grifos nossos):

"Este documento especifica os requisitos e fornece orientações para estabelecer, implementar, manter e melhorar continuamente um sistema de gestão de IA (inteligência artificial) no contexto de uma organização.

Este documento destina-se ao uso por uma organização que forneça ou use produtos ou serviços que utilizem sistemas de IA. Este documento destina-se a ajudar a organização a desenvolver, fornecer ou usar sistemas de IA de forma responsável para alcançar seus objetivos e para o cumprimento dos requisitos e obrigações aplicáveis relacionados às partes interessadas e suas expectativas.

Este documento é aplicável a qualquer organização, independentemente do tamanho, tipo e natureza, que forneça ou usa produtos ou serviços que utilizem sistemas de IA".

Para que os leitores do nosso blog tenham uma visão mais detalhada da ISO/IEC 42001:2023 original, trazemos a seguir, em primeira mão, a pré-visualização da nova norma!

Para facilitar a leitura, clique aqui ou no botão superior do visualizador.

Muito além da certificação...

A ISO/IEC 42001:2023, que no Brasil foi lançada no último dia 18 de abril e recebeu a denominação ABNT NBR ISO/IEC 42001:2024 - Tecnologia da informação - Inteligência artificial - Sistema de gestão, é uma norma certificável, comparável à ISO 9001 sobre gestão da qualidade e à ISO/IEC 27001 sobre segurança da informação, mas vai muito além dos requisitos específicos de um Sistema de Gestão da Inteligência Artificial (SGIA), pois fornece também melhores práticas, regras e orientações para gerenciar riscos e fatores operacionais dos sistemas de IA.

A Gestão de Riscos relacionados à IA torna-se assim uma disciplina crucial e fundamental no desenvolvimento, implementação, manutenção e melhoria de um SGIA (o termo 'risk' é mencionado 134 vezes ao longo de toda a norma ISO/IEC 42001...).

Daí não termos dúvida de que as diretrizes da NBR ISO 31000:2018 poderão ser amplamente utilizadas também no contexto da nova 42001, bem como a expertise em Gestão de Riscos dos Profissionais Certificados C31000...!!

Igualmente, devemos enfatizar que a adoção da NBR ISO/IEC 42001:2024 pode gerar benefícios potenciais significativos para as organizações brasileiras como, por exemplo:

• Confiança e Credibilidade: A conformidade com a norma aumenta a confiança das partes interessadas em relação ao uso responsável da IA pela organização.

• Eficácia Operacional: A norma promove, além do uso responsável da IA, a eficácia no desenvolvimento da Inteligência Artificial, juntamente com o alinhamento aos objetivos organizacionais e padrões éticos estabelecidos.

• Vantagem Competitiva: As organizações que implementarem a ISO/IEC 42001 poderão obter uma vantagem competitiva no mercado, demonstrando seu comprometimento com práticas éticas e responsáveis de IA.

Quais são os principais papéis nos sistemas de IA?

Em linha com a NBR ISO 31000:2018 e a NBR ISO/IEC 23894:2023, Tecnologia da informação - Inteligência artificial - Orientações sobre gestão de riscos, a ISO/IEC 42001 estabelece que, ao implementar o Sistema de Gestão da IA, a organização deve inicialmente compreender o seu contexto interno e externo e determinar exatamente qual o seu papel (ou papéis) em relação aos sistemas de IA desenvolvidos, fornecidos ou usados por ela.

Esses papéis podem abranger, por exemplo:

• Fornecedores de IA, incluindo fornecedores de plataformas de IA, e fornecedores de produtos ou serviços de IA;

• Produtores de IA, incluindo desenvolvedores de IA, projetistas de IA, operadores de IA, testadores e avaliadores de IA, implantadores de IA, profissionais voltados aos fatores humanos da IA, e profissionais de governança e supervisão de IA;

• Clientes de IA, incluindo usuários de IA;

• Parceiros de IA, incluindo integradores de sistemas de IA e fornecedores de dados;

• Autoridades pertinentes, incluindo legisladores, reguladores e formuladores de políticas públicas.

Uma descrição detalhada desses papéis é fornecida na ISO/IEC 22989:2022, Information technology - Artificial intelligence - Artificial intelligence concepts and terminology... 

Além disso, os tipos de papéis e sua relação com o ciclo de vida dos sistemas de IA também estão descritos na Estrutura de Gestão de Riscos de IA do NIST - National Institute of Technology, dos Estados Unidos.

Os papéis da organização podem, afinal, determinar a aplicabilidade e a extensão da aplicabilidade dos requisitos e controles referenciados no Anexo A da ISO/IEC 42001.

Novos projetos do QSP relacionados à ISO/IEC 42001

Além de termos lançado recentemente, no âmbito do SuperChatGPT da ISO 31000.net, um exclusivo chatbot especialista em Gestão da Inteligência Artificial, treinado na NBR ISO/IEC 42001:2024 e em outras normas e documentos internacionais voltados à IA, planejamos reunir os principais 'atores' que deverão interagir cada vez mais com a nova norma, incluindo os seguintes: 

• Os que listamos no item acima sobre os papéis relacionados aos sistemas de IA;

• Os que estão se preparando para fornecer às organizações serviços de consultoria, auditoria e certificação na nova norma.

Saiba mais sobre Inteligência Artificial e sistemas de gestão da IA

Separamos do site da ISO os seguintes artigos para você começar a se aprofundar ainda mais no campo revolucionário da Inteligência Artificial (os links levam tanto à versão original como também à tradução automática dos artigos para o Português):

• Artificial intelligence: What it is, how it works and why it matters
Tradução: Inteligência artificial: o que é, como funciona e por que é importante

• AI management systems: What businesses need to know
Tradução: Sistemas de gestão de IA: o que as empresas precisam saber 

• Machine learning: Everything you need to know
Tradução: Aprendizado de máquina: tudo o que você precisa saber

Leia também nosso artigo sobre a aplicabilidade das técnicas de avaliação de riscos, de acordo com a norma NBR IEC 31010:2021. Entre aqui.