quinta-feira, 1 de outubro de 2020

Como reduzir o Viés da Inteligência Artificial nos Processos de Recrutamento, Seleção e Contratação

 

A utilização da Inteligência Artificial (#IA) vem afetando a vida humana de diferentes formas, proporções, momentos de maturidade e velocidade há décadas. Embora a grande parte do uso da Inteligência Artificial seja aparentemente imperceptível aos usuários finais, e, em certa medida, nem cheguemos a perceber o surgimento de novos sistemas, ferramentas ou produtos baseados em IA, há níveis de profunda transformação e penetração dessa tecnologia em nossas vidas cotidianas. Em especial em áreas onde seu uso supera de longe o desempenho e a produtividade do ser humano, principalmente nas corporações, onde a disrupção tem grande impacto e visibilidade.

No ambiente corporativo, o uso da Inteligência Artificial e o subsequente suporte a algoritmos complexos que “aprendem e crescem” (Aprendizado de Máquina - #ML) vem assumindo as tarefas operacionais, repetitivas e massivas, permitido que os seres humanos se concentrem em tarefas mais complexas, que exigem criatividade, inovação, improviso e tomada de decisões estratégicas. As decisões não estratégicas, inclusive, já começam a ser tomadas por máquinas, desde que bem treinadas para isso.

De acordo com o Personnel Today[1], um dos maiores sites de RH da Inglaterra, 38% das empresas hoje estão utilizando a Inteligência Artificial no local de trabalho, e 62% planejam começar a utilizá-la em 2020.

Os chatbots, voicebots e assistentes virtuais, por exemplo, já fazem parte de nosso cotidiano pessoal e começam a integrar nosso local de trabalho. Neste caso, nos ajudando a encontrar novos empregos, a responder a perguntas frequentes ou exercendo a função de ferramentas de treinamento e/ou orientação.

Normalmente somos levados a acreditar que ferramentas e algoritmos de computação devem ser entendidos como elementos puros e naturalmente livres de preconceitos e demais fenômenos sociais inerentes aos seres humanos. Porém, os algoritmos geralmente refletem preconceitos inconscientes, presentes de forma invisível nos dados nos quais são treinados. Esses preconceitos podem afetar grupos étnicos, de gênero, etários, religiosos ou com algum tipo de deficiência física, por exemplo.

No mundo ideal, a aplicação da IA em processos corporativos, como a contratação de pessoal, deveria eliminar os preconceitos conscientes e inconscientes que temos, uns contra os outros, contribuindo bons candidatos, pertencentes a grupos minoritários, consigam bons empregos. Infelizmente, em vez disso, a adoção de soluções de IA que não tenham sido devidamente depuradas pode chegar a dobrar a incidência desse viés ou tendência inconsciente, atribuindo um peso ainda mais desproporcional a favor ou contra uma pessoa ou grupo comparado a outro.

O real impacto da adoção da IA em diversos cenários corporativos e cotidianos têm sido foco de estudo nas mais diversas esferas. Um desses grupos, formado pela Microsoft, a IBM e o Vaticano[2], acaba de postular seu manifesto sobre os princípios da IA, que, em sua ótica devem abranger justiça, confiabilidade, privacidade e segurança, inclusão e transparência, além de serem auditáveis.

Baseados nesses princípios e no intuito de mitigar a ocorrência de escolhas enviesadas, os mais recentes projetos de inovação em RH (#RHTech) têm levado em consideração as seguintes boas práticas para orientar a utilização da Inteligência Artificial, do Aprendizado de Máquina (#ML) e de Algoritmos Preditivos na área de Recursos Humano:

1) Analisar os dados qualitativamente e revisar os algoritmos criteriosamente

O primeiro passo para acoplarmos a IA a projetos de RH é o desenvolvimento de (bons) Algoritmos de Aprendizado de Máquina para o processo de contratação de pessoal. Todavia, tão ou mais importante que os algoritmos é a base de dados disponível. Diferentemente das pessoas, que enxergam os dados simplesmente como um conjunto objetivo de informações, as máquinas os entendem como verdades absolutas. Ou seja, caso não haja dados diversos o suficiente para o treinamento das máquinas, o resultado pode ficar muito distante do almejado.

A Amazon, por exemplo, descobriu que seu elogiado software de contratação de pessoas aprendeu rapidamente que candidatos masculinos tendiam a ter mais experiência do que candidatos femininos, quando se tratava do setor de tecnologia. Assim, o algoritmo começou a filtrar currículos de mulheres de forma preventiva como um atalho em decorrência desse conhecimento, pois, assim como nós, as máquinas também usam “atalhos mentais” em seu processo de aprendizagem.

Essa possível disfunção, no entanto, não é exatamente culpa dos dados, mas sim da insuficiência deles para a construção de uma série histórica necessária para contemplar todo o cenário de possibilidades que o algoritmo deve considerar. Cabe, então, à equipe humana garantir que os dados usados no aprendizado não ensinem acidentalmente padrões incorretos às máquinas.

Por outro lado, certamente a diversidade pela diversidade não é uma boa opção, pois, no limite, corre-se o risco de desvalorizar o aspecto mais importante, ou seja, a aptidão técnica do candidato. Dessa forma, as respostas aos currículos avaliados devem ser baseadas nas premissas da vaga, porém sem menosprezar a diversidade. Além disso, deve-se criar um procedimento de revisões frequentes dos dados e algoritmos a fim de que não se esteja simplesmente automatizando preconceitos humanos inconscientes.

Por fim, a melhor prática, neste caso, seria enfatizar a necessidade de melhores dados e a criação de pontos de controle contínuos no pipeline de contratação da área de recursos humanos, pois, como qualquer nova abordagem tecnológica, a Inteligência Artificial é capaz de gerar bons e maus resultados.

2) Trabalhar com equipes e empresas que favoreçam explicitamente a diversidade

Uma vez que o investimento na construção de algoritmos preditivos demanda a alocação de uma equipe de desenvolvimento altamente qualificada e de custo elevado, as empresas normalmente optam por contratar consultorias externas, com especialidade em Inteligência Artificial e Machine Learning.

Com isso, torna-se necessário o acoplamento de mais uma camada de proteção à diversidade em projetos de RHTech, que passam a requerer a extensão do monitoramento aos resultados gerados pelo parceiro tecnológico em questão, validando se os programadores estão desenvolvendo soluções efetivamente livres de preconceitos.

Neste sentido, adicionar diversidade às equipes humanas de contratação (RH) e de desenvolvimento de algoritmos contribui para minimizarmos possíveis pontos cegos corporativos. Certamente, a adoção dessas políticas contribui sobremaneira para o favorecimento de soluções explícitas de diversidade, tanto internamente quanto com empresas terceiras.

3) Considerar uma perspectiva aumentada

Uma vez que o bom senso e o meio termo normalmente apontam para a direção mais adequada, os desenvolvedores de novas soluções de contratação têm optado por aplicar o conceito de “inteligência aumentada” em vez de “inteligência artificial”. Assim, as ferramentas devem agregar valor às equipes de RH, trabalhando conjuntamente e, não, de forma excludente.

A isenção do processo apenas será garantida se baseada em uma abordagem multidisciplinar, na qual os algoritmos de contratação são codificados de forma a ignorar informações demográficas explícitas, e seus resultados sejam continuamente analisados por uma equipe de RH humana, que observe em detalhe se todos os currículos selecionados realmente sinalizam neutralidade de escolha.

No caso da Amazon, o descompasso foi detectado pela equipe humana, ao perceber que os currículos eram predominantemente masculinos. Infelizmente para a o bem da evolução das ferramentas de IA para a área de Recursos Humanos, em vez de assumir que seus dados apresentavam viés e corrigir sua neutralidade, a Amazon descartou todo o projeto. Nesse caso, o vilão não foi o algoritmo, mas o padrão existente na base de currículos da empresa, utilizada para treinar o modelo computacional, cuja predominância de candidatos do gênero masculino refletia a quase ausência de mulheres observada na indústria de tecnologia.

Todavia, uma das tão desejadas inovações para facilitar o trabalho de gestores de pessoas, ou seja, um motor baseado em Machine Learning que receba 100 currículos e devolva os 5 melhores para a contratação, está chegando ao mercado. Um excelente exemplo da automação ao limite do processo de recrutamento e seleção é o chatbot de chamado Andy. Os recrutadores humanos agora poderão contar com essa nova ferramenta, sobrando mais tempo para atividades que explorem suas habilidades específicas, contribuindo para refinarmos o complicado processo de encontrar a equação perfeita.

Nesse cenário, as iniciativas de contratação de IA podem ajudar recrutadores e equipes de contratação a trabalhar de maneira mais estratégica em geral, aumentando as chances de uma empresa encontrar o candidato certo e não apenas o candidato típico ou subótimo.

Atualmente contamos com alguns aplicativos baseados em IA que auxiliam diversas fases do processo de busca pelo melhor candidato. O Paradox, por exemplo, usa o Olivia[3] como um assistente pessoal robótico, cuja função é a de executar o secretariado inerente ao processo - triagem de candidatos, agendamento de entrevistas, resposta a perguntas de candidatos e funcionários e integração de novas contratações –, permitindo que os profissionais de RH se concentrem na entrevista e escolha final dos candidatos. Outra interessante ferramenta para RH é o VCV, um robô-recrutador com inteligência artificial que procura candidatos; chama-os com perguntas usando o reconhecimento de voz e os convida a gravar uma entrevista em vídeo.

Já o Glider, por sua vez, é uma plataforma de recrutamento baseada em IA que se propõe a ajudar recrutadores a, literalmente, colocar seus esforços de contratação no “piloto automático” quando estiverem ocupados com outras tarefas ou fora do escritório. Finalmente, caso a demanda seja a de recomendação de cursos e treinamentos para os colaboradores já contratados, soluções como o SAP SuccessFactors, Cornerstone, Talentsoft e muitos outros fornecem recursos semelhantes para recomendar cursos com base na carreira e no desempenho de uma pessoa.

A convivência harmônica entre homem e máquina nos departamentos de RH fará com que as ferramentas melhorem os processos de contratação e os humanos aprimorem essas ferramentas, em um processo evolutivo contínuo.

Finalmente, as melhores ferramentas de RH baseadas em IA irão desempenhar um grande papel na transformação digital das áreas de gestão de pessoas e da força de trabalho; efetivamente reduzindo o viés humano, aumentando a eficiência na avaliação de candidatos, maximizando a aplicação da conformidade corporativa, aumentando a adoção de métricas e melhorando o aprendizado no local de trabalho. Benefícios esses, que as organizações começam a experimentar assim que iniciam suas jornadas de adoção da Inteligência Artificial e do Machine Learning no ambiente corporativo.

[1] Em um documento conjunto tornado público em 28/fev/2020, o papa, juntamente com a Microsoft e a IBM, expôs uma visão que delineou princípios para as tecnologias emergentes e pediu novos regulamentos. O Papa Francisco quer que o reconhecimento facial, a inteligência artificial e outras novas tecnologias poderosas sigam uma doutrina de princípios éticos e morais. https://finance.yahoo.com/news/pope-endorse-principles-ai-ethics-080413576.html

[2] Personnel Today é o principal site de RH de acesso gratuito do Reino Unido, recebendo em média 300.000 visitantes únicos por mês.

[3] www.paradox.ai/demo - Segundo a própria Olivia, ao se apresentar, ela é uma assistente baseada em IA que ajuda as equipes globais de recrutamento e RH a transformarem suas formas de trabalhar.

Hashtgs: #eLearning, #EduTech, #ArtificialIntelligence, #MachineLearning, #DeepLearning, #4IR, #IIoT, #DX, #DigitalTransformation, #Industry40, #RPA

terça-feira, 7 de abril de 2020

[Coronavírus]: Cuidado com “o Medo do Vírus” ao Redor da Pandemia

Não deixe o Vírus Contaminar o seu Dia a Dia [Digital]...


Uma onda crescente de crimes cibernéticos explorando o medo sobre a pandemia global está em andamento. Como a imaginação é metade da doença, ao nos enclausurarmos em nossos home offices, trabalhando de forma isolada e remota, ampliamos consideravelmente a vulnerabilidade e as chances de propagação de golpes cibernéticos.

Governos e empresas de todos os portes precisam levar em conta que seus dados estão espalhados por data centers particulares e nuvens públicas e privadas. Além disso, os usuários acessam seus dados de qualquer lugar, por meio de qualquer dispositivo. Portanto, é preciso desenvolver uma defesa para essa infraestrutura híbrida, muitas vezes desprovida até mesmo das mais básicas medidas de proteção, como o uso de antivírus e firewalls.


Assim, quais seriam as boas práticas e os cenários a serem monitorados, a fim de se evitar que o COVID-19 contamine as organizações por meio de sua maior vulnerabilidade, ou seja, as pessoas?

Fraudes mais Praticadas em Crises Humanitárias

Desde o início da pandemia, a maioria dos golpes relatados está relacionada a ataques a compras online, quando as pessoas encomendam máscaras protetoras, desinfetante para as mãos e outros produtos similares, que acabam não sendo entregues, pois foram adquiridos de lojas online de fachada, ou seja, sites falsos.

Outras fraudes relatadas incluem as diversas versões do Golpe de Antecipação de Recursos, quando um golpista procura induzir sua vítima a fornecer informações confidenciais ou a realizar pagamentos adiantados, com a promessa de receber algum tipo de benefício futuro. Em tempos de corona, as modalidades mais praticadas dessa fraude financeira são o Golpe do Romance, da Doação para Caridade e do Empréstimo com Juros abaixo do mercado, ou seja, os famosos Golpes da Nigéria ou do “almoço grátis”.

Como se Prevenir?

Uma mensagem relativa a esse golpe, geralmente, possui características como:

- Oferece quantias astronômicas de dinheiro;
- Solicita sigilo nas transações;
- Solicita que você̂ a responda rapidamente;
- Apresenta palavras como "urgente" e "confidencial" no campo de assunto;
- Apresenta erros gramaticais e de ortografia.

Deve-se sempre desconfiar de propostas muito tentadoras, pois não existe “almoço grátis”!

E-mails de Phishing

Outro golpe extremamente comum em épocas de coronavírus é o Phishing, phishing-scam ou phishing/scam, fraude por meio da qual um golpista tenta obter dados pessoais e financeiros de um usuário, pela utilização combinada de ferramentas computacionais e engenharia social.

Os e-mails de phishing com tema de COVID-19, tentam induzir as pessoas a abrir anexos mal-intencionados, que podem levar os fraudadores a roubar informações pessoais, logins e senhas de e-mail e detalhes bancários. Sim, o coronavírus pode contaminar sua conta bancária. Como? Por meio de e-mail phishing.

Como se Prevenir?

- Ficar atento a mensagens, recebidas em nome de alguma instituição, que tentem induzir ao fornecimento de informações, à instalação/execução de programas ou ao clique em links;
- Evitar responder mensagens que apelem demasiadamente pela atenção e que, de alguma forma, façam ameaças caso não se execute os procedimentos descritos;
- Evitar abrir mensagens com cabeçalhos com dizeres semelhantes a "não deixe o COVID-19 atacar sua organização".
- Ser cuidadoso ao acessar links. Procurar digitar o endereço diretamente no navegador Web;
- Utilizar mecanismos de segurança, como programas antimalware, firewall pessoal e filtros antiphishing.

Cuidado até com Mapas


Um novo esquema de phishing com o tema COVID-19 tem enviado malwares por meio de um anexo de email disfarçado como um mapa de distribuição do surto do vírus, contendo dados em tempo real da OMS. Neste caso, a imagem é uma representação de um mapa legítimo criado pelo Centro Johns Hopkins de Ciência e Engenharia de Sistemas (CSSE).

Todavia, esse mapa é apenas uma isca para a invasão do computador da vítima, com a intenção da instalação do malware.

Como se Prevenir?

- Usar e manter softwares como antivírus e antimalware atualizados frequentemente;
- Ao receber mensagens em nome de alguma instituição, em vez de clicar em links, deve-se digitá-los diretamente no navegador Web, a fim de acessá-los de forma segura, verificando se o link corresponde com o correto endereço da instituição;
- Mesmo sendo um site legítimo, deve-se considerar a possível imprecisão dos dados de origem. Assim, sempre que possível, devemos acessar apenas sites de organizações oficiais que usarão dados confiáveis de saúde.

Aplicativos (App) Maliciosos Relacionados ao COVID-19

Recentemente, surgiram vários aplicativos de rastreamento de coronavírus, informando sobre a forma e velocidade de progressão do vírus e alertando acerca de relatos de casos de contágio com proximidade geográfica.

Nessa seara há muitos apps que realmente entregam o que se propõem, porém, infelizmente existem diversos outros que abusam do pânico para invadir nossos dispositivos móveis. Um desses aplicativos maliciosos é o “Coronavirus Tracker”, que contém um ransomware cujo intuito é o bloqueio de smartphones, exigindo um resgate em dinheiro para desbloqueá-lo.

Felizmente, pesquisadores de segurança descobriram o código de desbloqueio deste ransomware. Assim, basta digitar "4865083501" para desbloquear o telefone sequestrado.

Como se prevenir?

- Verificar a avaliação do App e o desenvolvedor do aplicativo, caso não seja uma fonte confiável, melhor evitá-lo; 
- Verificar os comentários antes de baixá-los. No caso de um aplicativo mal-intencionado, haverá relatos de problemas na seção de comentários;
- Mesmo sendo um aplicativo legítimo, deve-se considerar a possível imprecisão dos dados de origem. Assim, sempre que possível, devemos instalar apenas aplicativos lançados por organizações oficiais que usarão dados confiáveis de saúde.

Boas práticas para mantermos o home office seguro do vírus


Durante a atual e não planejada tsunami de colaboradores em regime de home office, as empresas precisam que o funcionário tenha acesso a suas redes internas, a fim de que realize suas atividades diárias. Nessas situações, os empregadores precisam lembrar que a segurança das informações estará sujeita, por exemplo, às redes de internet inseguras. Nesse tipo de situação é altamente recomendado que a governança de TI do empregador tenha regras claras sobre procedimentos que devem ser adotados pelos trabalhadores.

Questões como qual computador será utilizado, da empresa ou pessoal, e quais sites e programas podem ou não ser acessados no home office devem estar claras nas regras da empresa. Esse tipo de definição é essencial para diminuir a chance de que informações sejam vazadas ou roubadas por criminosos cibernéticos, que estão sempre atentos às fragilidades dos sistemas digitais.


Caso esse cenário de crise e incertezas tenha alguma similaridade com a atual situação de sua empresa, sugerimos a análise das seguintes quatro premissas de segurança a serem seguidas por funcionários que acessarão redes privadas em suas residências.

1. Definição do Computador a ser Usado: essa escolha é fundamental para nortear as definições dos procedimentos de segurança a serem tomados. Caso o computador da empresa seja levado para o home office, deve-se reforçar os procedimentos e ferramentas de segurança em relação à rede de internet utilizada, por exemplo. Além disso, é preciso que a empresa reavalie esse dispositivo, assim que ele voltar para o ambiente de trabalho. Apesar do controle, nem sempre é possível verificar o que foi acessado e o que estará presente no computador, quando for reconectado à rede da empresa. Por outro lado, caso o computador pessoal do trabalhador seja utilizado, será preciso alertá-lo e treiná-lo em relação a utilização de softwares como antivírus, antimalware e firewall. Essa segunda situação precisa ser ainda mais fiscalizada, já que dispositivos pessoais costumam ser ainda menos monitorados e mais permeáveis do que os corporativos.

2. Monitoramento: analisar o tráfego dos dados de rede do computador e/ou dispositivo móvel do trabalhador remoto é o procedimento mais importante para a verificação de possíveis anomalias, como acesso a servidores desconhecidos e até mesmo arquivos baixados de fontes estranhas e não autorizadas. Esse acompanhamento é realizado por meio de programas específicos que são instalados nas máquinas dos funcionários. Além de fiscalizar acessos, esses softwares monitoram horários de entrada e saída dos funcionários, analisando se a jornada de trabalho remota é similar à que o funcionário realiza presencialmente. Apesar do funcionário estar atuando em casa, as empresas precisam respeitar horários combinados.

3. VPN: a Rede Privada Virtual (Virtual Private Network – VPN) tem por objetivo integrar dispositivos remotos às redes corporativas de forma segura e criptografada.

4. Armazenamento em Nuvem: a "cloud computing" é uma das formas mais eficientes de troca de arquivos digitais, sendo utilizada, por exemplo, em casos de empresas que não precisam dar acesso total ao sistema interno, mantendo o acesso colaborativo à informação. A escolha do fornecedor de nuvem deve levar em consideração a solidez da empresa e os níveis de segurança e de serviço (SLA) garantidos.

Vivenciamos tempos difíceis, com impactos muito além dos puramente sanitários. A economia mundial, globalizada como está, sofrerá alterações de uma maneira inimaginável e empresas e governos terão de repensar a maneira como fazem seus negócios. Mas é certo que vamos superar todas as dificuldades e seremos lembrados como a geração de humanos que viu restrições similares apenas na Segunda Guerra. Todavia, precisamos nos precaver, a fim de mitigar, ao menos, os riscos que o COVID-19 traz não apenas para a nossa saúde física e mental, mas também para a nossa saúde financeira.