A escala de Tons de Pele MST é um importante passo em direção a uma IA mais justa e inclusiva

Os especialistas em ID continuam alertando sobre métodos de detecção de deepfake nem sempre funcionam em pessoas com tons de pele mais escuras

Os conjuntos de treinamento dessas ferramentas geralmente são dominados por homens brancos de meia-idade, o que significa que têm um viés contra pessoas de outras etnias e tons de pele.

Desde 11 de julho de 2023 o Google abriu o código-fonte da Escala de Tom de Pele MST que significa Monk Skin Tone, uma escala alternativa que é mais inclusiva do que o padrão atual da indústria de tecnologia.

Ellis Monk, professor de sociologia da Universidade de Harvard e pesquisador visitante do Google, está trabalhando para resolver esse problema.

Ele desenvolveu uma escala de tons de pele que oferece um espectro mais amplo do que a escala de Fitzpatrick, mais comumente usada pelas empresas.

Google lançou a escala de tons de pele de 10 tons para ajudar a construir produtos com menos viés de IA para usuários com peles coloridas.

A nova escala, MST substitui a escala de seis tons Fitzpatrick, que era amplamente usada para classificar tons de pele. As classificações são então usadas para testar o viés de desempenho contra pessoas de cor em soluções como sensores de frequência cardíaca de smartwatches e outros sistemas baseados em IA, como reconhecimento facial.

A escala Monk foi desenvolvida após um estudo realizado por professor Ellis Monk em colaboração com o Google, no qual cerca de 3.000 pessoas nos Estados Unidos foram entrevistadas. No decorrer do estudo, muitas pessoas disseram que a escala de 10 pontos correspondia à sua pele tão bem quanto uma paleta de 40 tons.

O objetivo de Monk foi criar um novo padrão que funcione para a maioria das pessoas no mundo que são pessoas de cor diferente da branca.

Como a MST pode melhorar os sistemas de IA?

A escala MST pode ajudar a melhorar os sistemas de IA de várias maneiras. Por exemplo, ela pode ser usada para: Avaliar a representatividade de conjuntos de dados de treinamento de IA; identificar e corrigir vieses em modelos de IA e desenvolver modelos de IA mais precisos e inclusivos.

O chefe de produto da equipe de IA responsável do Google, Tulsee Doshi, elogiou o novo padrão. No entanto, ele também alertou que problemas ainda podem surgir com a nova escala se as empresas não tiverem dados suficientes sobre os tons ou se os dados obtidos para treinar os algoritmos forem diferentes devido a situações de iluminação ou discrepâncias no julgamento humano.

O Google apresentou a Escala MST quando lançou seu software de fotos aprimorado com modelos e algoritmos capazes de capturar melhor pessoas com diferentes tons de pele.

Nessa ocasião o Google fez um apelo a outras empresas para incorporar a nova escala de tons de pele em seus processos de desenvolvimento de produtos, de acordo com os esforços coletivos para melhorar a avaliação da equidade da aprendizagem de máquina, no entanto o que verificamos é que ainda estamos errando ao analisar a biometria das pessoas.

Fraude deepfake é uma ameaça crescente

A fraude deepfake é uma ameaça crescente, e as ferramentas de detecção devem ser aprimoradas para proteger todas as pessoas, independentemente de sua raça ou etnia.

Um exemplo é a notícia de que a polícia de Hong Kong prendeu seis pessoas que usaram deepfakes para enganar bancos e outros credores. Os suspeitos adulteraram oito imagens roubadas, juntamente com carteiras de identidade de Hong Kong furtadas e comprovantes de endereço e renda. Eles supostamente usaram documentos fraudulentos para solicitar pelo menos 20 empréstimos online, um dos quais foi aprovado para HK$ 70.000 (US$ 8.937).

Em outro caso, um cidadão japonês foi enganado para comprar HK$ 1.700 (US$ 216) em créditos de jogos de computador. A vítima foi enganada por uma videochamada fraudulenta em que um golpista trocou o rosto com o CEO de um banco de Hong Kong.

A escala MST foi desenvolvida pelo professor de Harvard, Dr. Ellis Monk, e fornece um espectro mais amplo de tons de pele que pode ser aproveitado para avaliar conjuntos de dados e modelos de aprendizado de máquina para melhor representação.

“A escala MST é um avanço importante para a compreensão dos tons de pele dos sistemas de visão computacional”, disse Fei-Fei Li, diretora do Centro de Pesquisa para IA Responsável e Tecnologia Centrada no Ser Humano do Google. “Ao abrir o código-fonte para a comunidade de aprendizado de máquina, esperamos que outros incorporem a escala em seus processos de desenvolvimento e que possamos melhorar coletivamente esta área da IA.”

O Google está trabalhando com o Dr. Monk para refinar ainda mais a escala. O código-fonte está disponível no GitHub.

Ao contratar serviços de reconhecimento facial, verifique a escala de tons de pele utilizada em seus softwares. Só assim caminharemos em direção de uma IA mais justa e inclusiva.

No vídeo a seguir você assistirá Dr. Ellis Monk explicar por que ele desenvolveu a Escala de Tom de Pele MST e a importância de promover ambientes de desenvolvimento mais inclusivos

Como proteger os dados e a identidade de pessoas vulneráveis? Por Regina Tupinambá

BCI: mentes humanas controlando máquinas. Por Susana Taboas

Acompanhe como o reconhecimento facial e impressões digitais, de íris e voz estão sendo utilizados para garantir a identificação digital precisa para mitigar fraudes e proporcionar aos usuários conforto, mobilidade e confiança. Crypto ID, o maior canal brasileiro sobre identificação digital. Leia outros artigos aqui!

Learn how facial recognition and iris, voice and fingerprints are being used to ensure accurate digital identification to mitigate fraud and provide users with comfort, mobility and trust. Read other articles here! Crypto ID, the largest Brazilian channel on digital identification. Read other articles here!

Descubra cómo se utilizan el reconocimiento facial y el iris y las huellas dactilares del voz para garantizar una identificación digital precisa para mitigar el fraude y brindar a los usuarios comodidad, movilidad y confianza. Crypto ID, el mayor canal brasileño de identificación digital. ¡Lea otros artículos aquí!

Somos o maior portal brasileiro sobre Criptografia e Identificação Digital

O CRYPTO ID TRILHOU UM CAMINHO INCRÍVEL NESSES 10 ANOS!!

Em novembro desse ano completaremos uma década dessa jornada. Levamos à cerca de dois milhões de leitores ano as melhores e mais atualizadas informações do mercado brasileiro e internacional sobre segurança digital e tecnologias que viabilizam a identificação de pessoas, empresas, aplicações e equipamentos em meio digital, recursos de assinatura eletrônica e controle de acesso para garantir transações seguras e confiáveis.

Você quer acompanhar nosso conteúdo? Então siga nossa página no LinkedIn!