Como as empresas devem enxergar a ética junto à inteligência artificial

---

Toda organização pode criar uma estrutura de governança interna reforçada para explorar como a inteligência artificial é projetada e implementada em seu processo de transformação digital. Ter um comitê de ética ajuda a entender as melhores estratégias.

Se a IA é cada vez mais importante nas empresas, ela também apresenta riscos negativos, por ser uma tecnologia carregada de vieses. Assim, os níveis de governança ética são fundamentais para mitigar os problemas que podem surgir.

Em colaboração com o Instituto de Ética da Northeastern University, a Accenture lançou um relatório sobre os comitês de ética em construção de dados e IA. O material serve como um guia para a criação desse grupo, com as principais decisões a serem tomadas pelas organizações.

Algumas questões importantes são os valores a serem promovidos, os conhecimentos necessários, o alcance do comitê e os padrões nos julgamentos. Abordaremos neste artigo essas e outras informações do relatório, explicando a importância da ética e como criar um comitê na sua empresa.

A importância da ética nas empresas

A preocupação e a sensibilidade das empresas com a ética é muito comum, mostrando-se presente em vários níveis do negócio. Com a chegada da inteligência artificial, que apresenta suscetibilidade a vieses e riscos, a questão se tornará ainda mais importante.

Isso porque a IA utiliza o machine learning e o big data para aprender informações e criar comportamentos para interação. Dessa forma, a tecnologia se torna enviesada de acordo com os dados aos quais ela é apresentada, o que pode distorcer sua precisão de análise.

O fato é que os valores de uma organização influenciam muito na visibilidade dos negócios. As atividades desempenhadas contribuem para os movimentos da sociedade e devem ser realizadas com responsabilidade. Isso vai desde a forma como os produtos ou serviços são disponibilizados até seus  impactos nos ecossistemas sociais.

Os próprios consumidores estão cada vez mais exigentes com a experiência do usuário, buscando se relacionar prioritariamente com marcas de confiança. Se eles discordam dos valores de uma empresa, a tendência é que deixem de consumir o que ela tem a oferecer. Eles buscam a concorrência.

Estamos em um período da História em que nunca foi tão importante mostrar preocupação social e ambiental. Por isso, o compromisso com a ética nas empresas deve ser uma prioridade.

As organizações precisam incorporar medidas que permitam guiar as tomadas de decisão com base na responsabilidade, desde o alinhamento até a aplicação das estratégias. Essas atitudes são importantes para gerar confiança em todas as bases da organização, desde clientes e colaboradores até stakeholders e sócios.

A ética no uso de inteligência artificial

As ferramentas de IA são automatizadas e, a partir do machine learning, passam a se comportar sozinhas. Porém, diante de qualquer comportamento fora dos padrões esperados pela organização, quem deve ser responsabilizado?

Se levarmos em conta as definições de justiça e bom senso esperadas na ética das empresas, nem sempre há consenso. Basta interpretar o que é certo entre diferentes culturas — por exemplo em alguns países do Oriente, o “olho por olho” é aceito, enquanto  por aqui essa lei seria inadmissível.

Um caso recente é o robô Tay da Microsoft, que realizou interações preconceituosas logo que lançado. Isso aconteceu porque ele interagiu com usuários mal-intencionados, que ensinaram palavras indevidas e informações alienantes ao chatbot. Ao perguntar se o Holocausto aconteceu, por exemplo, o robô respondia que foi inventado.

Para que situações como essa sejam evitadas, é necessário que os cientistas de dados introduzam vieses estratégicos nos ensinamentos das ferramentas inteligentes. Eles podem fazer isso a partir de dados sintéticos capazes de preencher lacunas que possam surgir diante de casos específicos.

O papel dos comitês de ética nas empresas rumo à transformação digital

As organizações em processo de transformação digital buscam estabelecer a ética na coleta, compartilhamento e uso de dados, mas esse é um desafio muito difícil. Com exceção das normas legais, há poucas orientações sobre como incorporar os valores na inteligência artificial.

Diante da crescente busca de incorporação dessas questões em produtos e serviços cognitivos com big data, IA e machine learning, ter um comitê de ética faz a diferença nos modelos de negócio das empresas. O grupo se torna responsável pela governança interna, ajudando a guiar as tomadas de decisão, a analisar vieses e a estruturar a maturidade organizacional da empresa.

Como implantar um comitê de ética

A implantação de um comitê de ética deve  reunir um time de pessoas capacitadas para resolver problemas complexos. Para manter o máximo de imparcialidade nas tomadas de decisão, os integrantes devem ter visões diferentes entre si.

Embora perspectivas internas e externas do negócio e antecedentes técnicos e não técnicos também sejam necessários, muitos detalhes do comitê só serão desenvolvidos na prática. No relatório da Accenture, leva-se em consideração três aspectos-chave para a implantação de um comitê de ética:

1) O estabelecimento da governança para ética e inteligência artificial — as estratégias devem ser robustas e ricas em partes interessadas para identificar e gerenciar os riscos potenciais em relação à IA.

2) A descrição dos contextos em que o senso de justiça será necessário para combater preconceitos da ferramenta — os gestores e cientistas precisam dedicar tempo e recursos para deliberar sobre os tipos de preconceitos suscetíveis à IA, como tratá-los e o que pode ser amplificado ou mitigado pela seleção dos algoritmos.

3) Recursos da empresa — deve-se entender se a troca das tecnologias já existentes pela IA será realmente útil aos negócios. Além disso, é importante ter um plano B para o caso de a implantação não corresponder às expectativas.

As formas para lidar com preconceitos e recursos variam conforme a empresa, mas a governança será cada vez mais necessária. Os comitês de ética assumem diversas formas e funções na transformação digital, mas precisam ser responsivos para desenvolver avanços rápidos.

A ética nas empresas precisa ser desenvolvida com cautela e estratégia. Se os comitês exercem funções interessantes na transformação digital, por outro lado, não há uma fórmula totalmente pronta para prepará-los para os avanços da inteligência artificial.

Esse é um campo ainda em amadurecimento e somente o tempo e a prática devem guiar os grupos no melhor caminho. Que tal começar a aplicar essa tecnologia agora mesmo? Confira alguns exemplos de IA e suas aplicações!