O ritmo da Inteligência Artificial (IA) está mudando rapidamente. Embora a IA já faça parte do nosso ambiente há algum tempo, com o OpenBlue orientado por IA sabemos que agora ela está se tornando parte de todas as nossas vidas. Ao longo do caminho, criamos os princípios básicos da IA para nos alinharmos com a empresa em geral. A maioria desses princípios são aplicados em nossas decisões diárias, enquanto alguns novos princípios serão implementados com o tempo. Naturalmente, à medida que a IA evolui, nossos princípios também evoluem.
Você pode ter certeza de que usaremos esses princípios como orientação no desenvolvimento de nossos produtos, serviços e soluções.
“A Johnson Controls é guiada por ética e integridade, conforme estabelecido em nossos valores corporativos. À medida que incorporamos gradualmente mais inteligência artificial em nosso trabalho, nosso Conselho de IA alinha esses valores com nossos sete Princípios Éticos de IA.
Dois desses princípios são profundamente influenciados pela essência da Johnson Controls: empoderar as pessoas em edificações e sustentabilidade. À medida que criamos um mundo mais inteligente, saudável e sustentável, nos esforçaremos pela centralidade humana que ajuda as pessoas ocupantes de ambientes – incluindo nossos colaboradores a ser mais eficientes, eficazes e que ajuda a Johnson Controls e nossos clientes a enfrentar a crise climática global.”
George Oliver | Chairman & CEO
Nossos processos transparentes de desenvolvimento de IA darão prioridade à equidade. Faremos o possível para utilizar conjuntos de dados de treinamento que reflitam a diversidade da sociedade com objetivo de eliminar vieses algorítmicos que colocam grupos desprivilegiados e pouco representados em desvantagem sistemática. Avaliaremos a equidade com base nos mesmos padrões que utilizamos para avaliar os processos de tomada de decisão dos seres humanos e trabalharemos para detectar e eliminar danos relacionados à inequidade em nossa IA.
A privacidade deve ser incorporada aos sistemas e processos desde o início. Desenvolveremos e utilizaremos a IA com funcionalidades e controles de privacidade apropriados. Nos esforçaremos para incorporar valores humanos que respeitem a privacidade em sistemas não humanos e aplicar funcionalidades de design para que as informações pessoais sejam utilizadas apenas conforme necessário para o funcionamento do sistema. Quando apropriado, também iremos anonimizar ou desidentificar as informações pessoais antes que um modelo de aprendizado de máquina as utilize.
Desenvolveremos IA utilizando nossos processos seguros de desenvolvimento de produtos ao longo de todo o ciclo de vida. Testaremos e faremos manutenção regularmente em nossos sistemas de IA com o objetivo de garantir que eles operem de forma confiável, segura e consistente em circunstâncias normais e em condições inesperadas. Compartilharemos informações relevantes sobre limitações inerentes e taxas de erro do sistema com os usuários de nossos sistemas de IA para reduzir impactos quando apropriado.
Desenvolveremos nossa IA para que os sistemas possam tomar decisões de forma autônoma somente se operarem com base em princípios claramente definidos. Isso limitará seus poderes de tomada de decisão e ajudará a garantir a segurança de nossos usuários, colaboradores, parceiros e outras partes interessadas.
Nosso Conselho Corporativo de IA é responsável por garantir que nossos negócios cumpram esses princípios. Auditaremos regularmente nossa conformidade com nossos padrões de IA. Projetaremos nossos produtos para garantir que as pessoas mantenham o controle ou o monitoramento adequado dos sistemas autônomos. O nível de controle humano em cada caso de uso dependerá (i) do grau de autonomia da IA e (ii) da importância da implantação da IA. Ofereceremos ferramentas e recursos para ajudar nossos parceiros e clientes a também ser responsáveis pela implantação e pelo uso de nossa IA.
Acreditamos que a transparência aumenta a confiança em nossos sistemas de IA. Quando apropriado, proporcionaremos aos usuários informações e treinamento relacionados ao uso corporativo de um sistema de IA, à finalidade pretendida desse sistema de IA e aos tipos de dados utilizados.
Para modelos de IA cujos resultados possam afetar os direitos ou a segurança das pessoas, geraremos cartões de IA que fornecerão aos desenvolvedores, usuários e outras partes interessadas informações sobre o desenvolvimento e a implantação de diversos modelos de IA.
Os cartões fornecerão uma explicação útil e não técnica do comportamento de nossos sistemas de IA e seus componentes. Assim, as partes interessadas poderão entender como e por que funcionam e também identificar e mitigar potenciais problemas de segurança, privacidade, preconceitos, entre outros.
Lideraremos o desenvolvimento de IA para ajudar a tornar os ambientes mais sustentáveis. Muitas das nossas ofertas de hardware, como os Chillers energeticamente eficientes, e de software avançado, como o OpenBlue Central Utility Plant, já estão ajudando as maiores e mais complexas instalações do mundo a serem mais sustentáveis.
Enquanto avaliamos fornecedores e parceiros de IA, também consideraremos seu respeito pelo meio ambiente e suas preocupações com a sustentabilidade.