Dia da Consciência Negra: Escala ampliada de tons de pele contribui para a inclusão digital
17 de novembro de 2023No dia da Consciência Negra devemos refletir se estamos utilizando métodos de reconhecimento facial de forma inclusiva
No dia 20 de novembro, celebramos o Dia da Consciência Negra, uma data importante para refletir sobre a luta contra o racismo e a discriminação. Em um mundo cada vez mais tecnológico, é fundamental que os sistemas de inteligência artificial (IA) sejam inclusivos e não perpetuem vieses contra grupos minoritários.
Por Susana Taboas
Um dos desafios da IA é o viés de representação, que ocorre quando os conjuntos de dados usados para treinar os modelos são tendenciosos. Isso pode levar a resultados imprecisos ou discriminatórios, especialmente quando se trata de sistemas que lidam com identificação biométrica, como reconhecimento facial.
Um exemplo disso é o fato de que métodos de detecção de deepfakes nem sempre funcionam em pessoas com tons de pele mais escuras. Isso ocorre porque os conjuntos de dados usados para treinar esses modelos são geralmente dominados por pessoas brancas.
Para ajudar a resolver esse problema, o professor de sociologia da Universidade de Harvard, Ellis Monk, desenvolveu uma escala de tons de pele que oferece um espectro mais amplo do que a escala de Fitzpatrick, mais comumente usada pelas empresas. Veja no artigo que publicamos em agosto de 2023
A escala Monk foi desenvolvida após um estudo realizado pelo professor Monk em colaboração com o Google, no qual cerca de 3.000 pessoas nos Estados Unidos foram entrevistadas. No decorrer do estudo, muitas pessoas disseram que a escala de 10 pontos correspondia à sua pele tão bem quanto uma paleta de 40 tons.
O objetivo de Monk foi criar um novo padrão que funcione para a maioria das pessoas no mundo que são pessoas de cor diferente da branca.
A escala Monk pode ajudar a melhorar os sistemas de IA de várias maneiras. Por exemplo, ela pode ser usada para:
- Avaliar a representatividade de conjuntos de dados de treinamento de IA;
- Identificar e corrigir vieses em modelos de IA;
- Desenvolver modelos de IA mais precisos e inclusivos.
O Google abriu o código-fonte da Escala de Tom de Pele MST para que outras empresas possam incorporá-la em seus processos de desenvolvimento de produtos.
A adoção da escala Monk é um passo importante para a construção de uma IA mais justa e inclusiva. Ao usar essa escala, as empresas podem garantir que seus sistemas de IA sejam mais precisos e confiáveis para todos, independentemente de sua raça ou etnia.
A importância de promover ambientes de desenvolvimento mais inclusivos
Além de adotar a escala Monk, é importante que as empresas promovam ambientes de desenvolvimento mais inclusivos. Isso significa ter uma equipe diversificada de engenheiros e pesquisadores que possam trazer diferentes perspectivas para o processo de desenvolvimento de IA.
Um ambiente mais inclusivo também deve garantir que outras etnias tenham oportunidades de participar de testes e validações de sistemas de IA. Isso ajudará a garantir que os sistemas sejam projetados para atender às necessidades de todos os usuários.
A inclusão de pessoas de diferentes etnias nas equipes de desenvolvimento de soluções biométricas pode ajudar a garantir que esses sistemas sejam projetados para atender às necessidades de todos os usuários. Essas equipes podem trazer diferentes perspectivas e experiências para o processo de desenvolvimento, o que pode ajudar a identificar e corrigir vieses nos sistemas.
Aqui estão algumas maneiras de promover a inclusão de diferentes etnias nas equipes de desenvolvimento de soluções de tecnologia:
Empresas e organizações devem fazer um esforço para recrutar funcionários de diferentes etnias. Isso pode ser feito através de programas de recrutamento específicos para grupos minoritários, parcerias com organizações que representam grupos minoritários ou simplesmente sendo mais proativos na busca de candidatos de diferentes etnias.
A inclusão de diferentes etnias nas equipes de desenvolvimento de soluções de tecnologia é um passo importante para garantir a precisão, a equidade e a confiança desses sistemas.
A construção de uma IA mais justa e inclusiva é um desafio, mas é essencial para construir um mundo mais equitativo. A adoção da escala Monk e a promoção de ambientes de desenvolvimento mais inclusivos são passos importantes nessa direção.
Sobre Susana Taboas
Susana Taboas | COO – Chief Operating Officer – CryptoID. Economista com MBA em Finanças pelo IBMEC-RJ e diversos cursos de extensão na FGV, INSEAD e Harvard University. Durante mais 25 anos atuou em posições no C-Level de empresas nacionais e internacionais acumulando ampla experiência na definição e implementação de projetos de médio e longo prazo nas áreas de Planejamento Estratégico, Structured Finance, Governança Corporativa e RH. Atualmente é Sócia fundadora do Portal Crypto ID e da Insania Publicidade.
Leia outros artigos escritos por Susana.
Acesse o LinkeIdin da Susana!
A escala de Tons de Pele MST é um importante passo em direção a uma IA mais justa e inclusiva.
Ministério da Igualdade Racial promove debate sobre o Racismo Algorítmico
Somos o maior portal brasileiro sobre Criptografia e Identificação Digital
O CRYPTO ID TRILHOU UM CAMINHO INCRÍVEL NESSES 10 ANOS!!
Em novembro desse ano completaremos uma década dessa jornada. Levamos à cerca de dois milhões de leitores ano as melhores e mais atualizadas informações do mercado brasileiro e internacional sobre segurança digital e tecnologias que viabilizam a identificação de pessoas, empresas, aplicações e equipamentos em meio digital, recursos de assinatura eletrônica e controle de acesso para garantir transações seguras e confiáveis.
Acompanhe como o reconhecimento facial e impressões digitais, de íris e voz estão sendo utilizados para garantir a identificação digital precisa para mitigar fraudes e proporcionar aos usuários conforto, mobilidade e confiança. Crypto ID, o maior canal brasileiro sobre identificação digital. Leia outros artigos aqui!
Learn how facial recognition and iris, voice and fingerprints are being used to ensure accurate digital identification to mitigate fraud and provide users with comfort, mobility and trust. Read other articles here! Crypto ID, the largest Brazilian channel on digital identification. Read other articles here!
Descubra cómo se utilizan el reconocimiento facial y el iris y las huellas dactilares del voz para garantizar una identificación digital precisa para mitigar el fraude y brindar a los usuarios comodidad, movilidad y confianza. Crypto ID, el mayor canal brasileño de identificación digital. ¡Lea otros artículos aquí!
