Por que a Inteligência Artificial é tão crucial para as tecnologias modernas de identidade e segurança

O que é IA... e o que não é

Tecnologias IA: separando mitos da realidade

Vamos ser claros sobre uma distinção importante: a IA permite que uma máquina aprenda por conta própria, mas não pode treinar uma máquina para pensar por conta própria. Então, o que exatamente queremos dizer com inteligência? Se voltarmos à sua raiz latina, a inteligência é a capacidade de compreender – uma capacidade única dos seres humanos e inseparável de sua capacidade de pensar. Por mais perturbador que seja o desempenho de certas aplicações recentes de IA, devemos ter cuidado para não chegar à conclusão de que a inteligência humana e a inteligência artificial são a mesma coisa.

O termo "inteligência artificial" remonta à década de 1950, quando os especialistas foram cativados pelo rápido progresso dos computadores. Durante décadas, o que passou para as "máquinas inteligentes" foram, na verdade, programas de computador elaborados que permitiam aos computadores executar tarefas pré-programadas, como jogar xadrez. Embora fossem inovadores na época, esses computadores ainda estavam longe de serem fontes de verdadeira inteligência – ou compreensão.

Hoje, as tecnologias de IA aprendem vasculhando resmas de dados e tirando conclusões com base em padrões recorrentes. Dessa forma, eles fornecem aos humanos insights, mas ainda não têm a capacidade de pensar – e entender – suas próprias conclusões.

Para aprender e tirar conclusões, as máquinas usam um algoritmo (ou seja, um guia passo a passo) para concluir uma tarefa precisa, dentro de uma estrutura predefinida, e para atender a uma necessidade específica. Para ser uma fonte genuína de compreensão (e inteligência), esse aprendizado só pode ser alcançado em parceria com os humanos – nunca apenas por máquinas.

Em última análise, a verdadeira fonte da inteligência continua sendo humana. É a inteligência humana que primeiro entende o problema a ser resolvido e projeta a estrutura para fazer isso. É também a inteligência humana que é posteriormente capaz de tirar lições do processo de aprendizagem e das descobertas geradas pela máquina. Na verdade, a inteligência artificial é realmente uma extensão da inteligência humana e não uma forma de inteligência em si.

Em suma, as tecnologias de IA são uma ferramenta fantástica para auxiliar a inteligência humana. Eles abrem caminho para a automação e a tomada de decisões mais rápidas, mas a supervisão humana é, e sempre será, indispensável.

Tecnologia por trás do conceito

O aprendizado de máquina (machine learning) é a principal tecnologia por trás da IA. Consiste em ensinar computadores a encontrar informações de forma autônoma dentro de conjuntos de dados. Uma vez que uma máquina recebe um exemplo, ela pode vasculhar dados, encontrar padrões e correlações com base no que aprendeu. Quando uma máquina começa a tirar as conclusões certas, ela pode então aplicar esses aprendizados a novos conjuntos de dados. O algoritmo se adapta e melhora à medida que processa mais dados.

O deep learning, por outro lado, é um subconjunto do aprendizado de máquina. Ele imita a arquitetura de rede neural do cérebro humano. Ao contrário do aprendizado de máquina, as redes neurais de aprendizado profundo dependem de várias camadas de processamento (que é de onde vem o "deep " - profundo) para identificar padrões, classificar informações ou reconhecer falas, imagens, etc. Em vez de confiar em um exemplo, os algoritmos de aprendizado profundo processam quantidades incríveis de dados brutos para aprender e melhorar.

A mudança de paradigma do deep learning

Nos últimos anos, os algoritmos de aprendizagem profunda permitiram que as tecnologias de IA penetrassem em inúmeros mercados e indústrias. Hoje, seria difícil encontrar um setor – ou mesmo uma pessoa – que não dependa de soluções de IA para algum aspecto de seus negócios ou vida cotidiana. Mas o que provocou esse aumento? Em grande parte, nossos próprios hábitos de consumo colocaram o aprendizado profundo em primeiro plano. Dispositivos conectados, cidades inteligentes, IoT em geral e nossos hábitos on-line – todos esses avanços tecnológicos produzem uma abundância de dados granulares de um conjunto incrivelmente diversificado de fontes. Essa grande quantidade de dados, aliada a um aumento acentuado do poder computacional, que começou na década de 1980, algoritmos mais avançados e tecnologia que se tornou suficientemente madura no início dos anos 2010, inaugurou uma maneira mais eficiente de aprender.

A capacidade de classificar grandes quantidades de dados, trazida pelo aprendizado profundo, aumenta exponencialmente o desempenho: os problemas agora podem ser modelados com milhões de parâmetros, aprofundando o processo de aprendizagem e fornecendo respostas para problemas mais complexos do que nunca. Realizar tarefas como reconhecer formas ou compreender a fala tornou-se incrivelmente eficiente, impulsionando domínios inteiros no processo.

Por que os algoritmos de IA de hoje são tão eficientes?

O poder da tecnologia de aprendizagem profunda

Os seres humanos muitas vezes podem ficar sobrecarregados por volumes colossais de dados e, sozinhos, só são capazes de explorar uma porção finita de dados — deixando grandes conjuntos de dados sem uso. A tecnologia de aprendizagem profunda, por outro lado, é extremamente escalável. Por design, a rede neural do deep learning se torna mais eficiente com a adição de novos neurônios. Isso significa que as máquinas podem absorver uma quantidade ilimitada de novos dados. Em vez de atingir a saturação, ondas de dados realmente melhoram o desempenho. À medida que a rede cresce, o desempenho aumenta e os modelos se tornam capazes de lidar com problemas cada vez mais complexos. O aprendizado profundo também é um processo iterativo, o que significa que é um sistema dinâmico e auto-atualizável que está continuamente se ajustando a novos dados para encontrar uma resposta melhor. Essa é mais uma maneira pela qual o deep learning imita a mente humana — assim como nós, os algoritmos de deep learning melhoram com a experiência. Mas a comparação termina aí.

A importância dos dados (precisos)

A tecnologia de aprendizado profundo requer toneladas de dados — quanto maior a folha de dados, melhor. Mas não um dado qualquer. A coleta de dados precisa ser precisa e livre de erros para garantir que os resultados sejam corretos e imparciais. Também precisa ser relevante, o que significa que os dados devem ser obtidos sem se perder de vista o problema em questão. Em outras palavras, é necessário entender as aplicações para desenvolver ferramentas tecnológicas de acordo. A importância dos dados disparou nos últimos anos, tornando-os uma verdadeira vantagem competitiva para aqueles que os obtêm e os usam corretamente. Essa última parte é essencial – os dados são, acima de tudo, um recurso precioso que deve ser salvaguardado. Isso significa que uma estrutura clara sobre a ética por trás das maneiras pelas quais os dados são coletados, armazenados e usados é de extrema importância, especialmente considerando-se como o uso de dados evoluiu e continuará a evoluir ao longo dos anos.

Como as soluções de IA ajudam os humanos

IA, uma aliada essencial

Embora o conceito de IA seja inspirado na mente humana, os algoritmos de aprendizagem profunda realmente veem padrões mais facilmente do que nós, facilitando assim o processo de tomada de decisão e a automação sem que haja a fadiga. A IA é capaz de lidar com tarefas que estão além do escopo dos computadores tradicionais, ao mesmo tempo em que completa tarefas demoradas e tediosas de forma mais rápida e consistente do que os humanos. Concretamente, as soluções de IA ajudam a melhorar a previsão, detecção e classificação em todos os domínios, por exemplo, detecção e reconhecimento de objetos, liberando assim um tempo precioso que pode ser gasto em tarefas de valor agregado que exigem inteligência humana.

As vantagens das tecnologias de IA são inconfundíveis quando se trata de analisar grandes conjuntos de dados. Desde a análise de rotas e identificação de padrões para aumentar a eficiência e a experiência do usuário no setor de transporte; peneirar dados de dispositivos vestíveis (wearables) para melhorar o atendimento e o diagnóstico de pacientes na área médica; ou personalizar a experiência de marketing e compra no setor de varejo – casos de uso inovadores de IA estão se expandindo em todas as indústrias e setores. Instituições financeiras e agências governamentais também contam com soluções de IA para detectar fraudes e proteger cidadãos e empresas. Apoiados por insights gerados por IA, os tomadores de decisão estão mais bem equipados para fazer a chamada certa.

Como os algoritmos de IA ajudam a eliminar o preconceito

Fala-se muito em viés na biometria. Afinal, na comunidade científica, há todo um campo de pesquisa, "equidade em sistemas de aprendizado de máquina", dedicado a medir, entender e atenuar questões de viés. Mas, na realidade, o preconceito é muito mais comum na natureza humana e na sociedade em geral do que em algoritmos equilibrados e precisos. Na verdade, os algoritmos de hoje apresentam uma solução viável para esse problema do mundo real. Dito isso, é essencial lembrar que as soluções de IA devem sempre ser combinadas com a análise e decisão humana. No caso de autoridades policiais, judiciais ou fronteiriças que usam tecnologias de IA, a decisão final sempre cabe às pessoas que são empossadas e autorizadas por lei a fazer a chamada. As tecnologias de IA são apenas um suporte para o ser humano realizar uma tarefa, acelerá-la, enquanto reduz o risco de erro.

A indústria de identidade e segurança percorreu um longo caminho na redução do viés no reconhecimento biométrico. Notadamente, nos últimos anos, testes independentes conduzidos pelo National Institute of Standards and Technology (NIST) mostraram que as diferenças no desempenho de algoritmos de identificação biométrica entre grupos demográficos podem ser reduzidas a um ponto em que são virtualmente indetectáveis. A melhor tecnologia de reconhecimento facial de IA da categoria se destaca nesses testes por combinar equidade e precisão.

É importante notar que, para alcançar esse equilíbrio, esses algoritmos não aprendem sozinhos uma vez implantados – os humanos mantêm o controle sobre seu desempenho. Os desenvolvedores medem as taxas de erro dos algoritmos em diferentes grupos, aplicam medidas corretivas e garantem que a equidade continue sendo um critério fundamental.

Com a capacidade de identificar igualmente bem todos os sujeitos, independentemente da demografia, as tecnologias de IA desenvolvidas de forma responsável e ética podem realmente ajudar os humanos a reduzir o risco de discriminação.

Como o deep learning impulsiona as tecnologias de identidade e segurança?

Biometria

Os avanços na IA revolucionaram o campo da biometria. A capacidade de modelar problemas mais complexos e processar cada vez mais dados e muito mais rapidamente elevou a barra de forma substancial em termos de desempenho e precisão. Para começar, a grande quantidade de dados disponíveis combinada com os recursos de computação trazidos pelo aprendizado profundo tornam os algoritmos biométricos mais precisos do que nunca. Embora o reconhecimento facial seja talvez o melhor exemplo do impacto que a IA tem na biometria, o aprendizado profundo também impulsionou os avanços na tecnologia de impressão digital e está apenas começando a arranhar a superfície no reino da tecnologia da íris também.

Nos primórdios dos algoritmos de reconhecimento facial, só era possível identificar um rosto quando posicionado diretamente em frente a um terminal biométrico. O progresso neste campo, impulsionado principalmente pelo aumento da eficiência da IA, melhorou a experiência do usuário.

A tecnologia de reconhecimento facial de IA de hoje exige muito pouco do usuário enquanto sua identidade é verificada – o processo é mais rápido, eficiente e sem atrito. Por exemplo, o rosto de um usuário pode ser analisado com precisão se ele está em movimento ou estático, usando óculos ou sorrindo, de frente para o terminal biométrico ou olhando em outra direção. Os algoritmos de IA podem até mesmo realizar a prova de vida sem pedir ao sujeito para fazer qualquer pose ou movimento específico. A prova de vida – ou a capacidade de confirmar se o rosto ou impressão digital analisados é, de fato, apresentado, pessoalmente, por seu verdadeiro proprietário (em vez de uma foto, máscara de silicone ou uma impressão digital falsificada) – melhora drasticamente os sistemas antifraude.

Quando se trata de biometria de impressões digitais, a tecnologia de aprendizado profundo torna possível ler até mesmo impressões digitais danificadas ou verificar com precisão a identidade por meio de um sistema de controle de acesso totalmente sem contato.

Controle de acesso sem atrito

Os sistemas de controle de acesso atuais também podem contar com dados biométricos faciais para identificar visitantes e funcionários à distância ao entrarem em um prédio. Algoritmos avançados podem criar uma experiência de identificação biométrica verdadeiramente perfeita, permitindo o reconhecimento em movimento e, ao mesmo tempo, garantindo a mais alta precisão. A força por trás dessa tecnologia reside na capacidade dos algoritmos de IA de analisar toda a situação em torno dos pontos de acesso, permitindo o acesso de grupos e detectando comportamentos suspeitos simultaneamente.

E à medida que o mundo em geral se inclina cada vez mais para métodos sem contato, o mesmo acontece com o campo do controle de acesso. Simplesmente, o uso de um sistema de reconhecimento facial de IA significa que nenhum contato direto é necessário com um equipamento de controle de acesso, uma alternativa muito mais higiênica em um clima pós-pandemia.

Autenticação de documentos

Outro exemplo real de tecnologia de aprendizagem profunda no trabalho é a verificação de uma vasta gama de documentos, incluindo passaportes, carteiras de motorista, vistos, documentos de imigração, documentos fiscais, cartões de identificação de eleitor e muito mais. Os algoritmos de aprendizado profundo podem detectar documentos colocados em um scanner ou na frente de uma câmera de telefone, identificar o tipo de documento, ler o texto e as imagens e garantir a autenticidade — verificando se não se trata de um documento falso ou de uma fotocópia, por exemplo. Isso significa analisar fontes, recursos de segurança, como hologramas, marcas d'água e códigos de barras, e ser capaz de identificar manipulação de imagem, adulteração de pixels, adulteração digital e outros tipos de falsificações. Aqui, a IA é um recurso inestimável, verificando simultaneamente todos os recursos de segurança de um documento de forma mais eficiente, rápida e segura do que nunca. A IA está sendo capaz de alcançar tudo isso em uma infinidade de documentos, mesmo remotamente – uma tarefa na qual nem mesmo a mente humana mais treinada pode competir.

Quais são as aplicações de identidade e segurança da IA no dia a dia?

Quer você esteja ciente disso ou não, a IA está em ação em várias partes da vida cotidiana – para empresas, governos e usuários finais. Ao avançar na biometria, na análise de imagens e nos sistemas antifraude, as soluções de IA ajudam a proteger identidades, agilizar sua verificação e tornar o mundo um pouco mais suave.

Verificação de identidade e detecção de fraude em todos os ambientes

A IA está presente em todos os tipos avançados de verificação de identidade e detecção de fraudes, tanto presenciais quanto online:

• Conformidade on-line do know your customer para operadoras móveis, instituições financeiras, setores regulados, etc.
• Acesso seguro a eServices governamentais, saúde, educação, etc.
• Controle de acesso para habitações privadas, edifícios de escritórios e locais industriais sensíveis
• Melhor experiência do usuário, fluxo de passageiros e controle de fronteiras em todos os ambientes de viagem, seja por via aérea, terrestre ou marítima.

Um exemplo específico de aprendizagem profunda em ação num processo de tomada de decisão acontece no contexto da facilitação do fluxo de passageiros. Aqui, toda uma cadeia de algoritmos de IA é necessária em todos os estágios de um processo automatizado de verificação de identidade. O primeiro passo é a detecção e rastreamento. Por exemplo, entender todos os elementos em um feed de vídeo do eGate ou localizar a íris no rosto de uma pessoa. O próximo passo é a avaliação da qualidade, encontrando as melhores imagens para usar para fins biométricos. Em seguida, construir um modelo biométrico, ou seja, extrair informações relevantes da imagem. O último é o reconhecimento, ou correspondência de dados semelhantes. Neste exemplo, algoritmos de aprendizado profundo confirmam a identidade de um passageiro quando ele digitaliza seu passaporte no check-in e quando ele pisa na frente de uma câmera em um eGate para uma verificação biométrica final antes do embarque.

Em suma, a IA compara uma imagem de passaporte (e verifica se a foto não foi adulterada) com a imagem ao vivo para determinar que a pessoa é quem ela diz ser – tudo em poucos segundos.

Análise de dados inteligente para maior segurança

Embora a estrutura legal sobre o uso de IA para garantir a segurança pública levante questões éticas legítimas em torno da palavra – e continuará a evoluir, as soluções de IA foram e continuarão a ser incrivelmente úteis em situações muito precisas. Primeiro, na identificação de vítimas de crimes; segundo, na busca de pessoas condenadas ou suspeitas de delitos graves; e, por fim, em caso de ameaça grave ou imediata à segurança pública. Nessas situações, a IA pode ser usada para extrair automaticamente rostos ou veículos ou outros objetos que aparecem em imagens de vídeo e enviar alertas automatizados quando encontrados. Dá sentido a todos os dados disponíveis; economiza tempo, recursos e dinheiro, tudo isso enquanto reduz o erro humano.

Como a ética e a responsabilidade social estão inextricavelmente ligadas às tecnologias de IA

A tecnologia é ótima, mas a forma como você a usa é importante

A tecnologia não é nem boa nem ruim em si, tudo depende de como você a aplica. No setor de identidade e segurança – no qual as pessoas usam máquinas para verificar identidades confiando em dados biométricos, por exemplo – a ética é um fator extremamente importante. A fim de aliviar as preocupações legítimas do público e criar confiança, a indústria deve estar vigilante e responsabilizar-se quando se trata da aplicação destas tecnologias inovadoras. Devem ser aplicados procedimentos rigorosos do que e do que não deve ser feito. Por exemplo, a supervisão humana é essencial. Embora as tecnologias de IA tenham permitido que a indústria avançasse aos trancos e barrancos, não podemos esquecer que há uma diferença real entre uma máquina e um humano. Governos e terceiros também intervieram para criar marcos regulatórios para garantir o uso responsável da tecnologia.

Fomentando a confiança controlando a máquina

Implementar um processo industrial com testes e validações, a cada passo do caminho, é uma parte importante do desenvolvimento de tecnologias que dependem de algoritmos de deep learning. Por exemplo, a forma como as máquinas aprendem deve ser sempre supervisionada por um ser humano. E, embora melhorar o desempenho seja importante, é crucial identificar e corrigir possíveis vieses – uma tarefa muito complexa, mas ainda assim uma parte importante do trabalho.

A correção de vieses agora é um critério de qualidade e desempenho

Nos últimos anos, houve uma mudança marcante na forma como o desempenho é medido – notadamente, o Instituto Nacional de Padrões e Tecnologia (NIST) inclui o controle de correção de viés em suas avaliações de referência de biometria facial desde 20191. Isso significa que a correção de viés não só é possível, mas também é um critério qualitativo quando se trata de avaliar o desempenho de um algoritmo de reconhecimento facial de IA. Afinal, os dados criam uma enorme vantagem, mas têm seus limites. Se o conjunto de dados não for representativo o suficiente, por exemplo, pode levar a vieses. Isso aconteceu nos primórdios do deep learning (alguns experimentos iniciais de deep learning caíram na armadilha de preconceitos de gênero ou étnicos). Esses erros já foram corrigidos. Hoje, um banco de dados pode ser analisado por meio de estatísticas, permitindo detectar um possível desequilíbrio no conjunto de dados e, em seguida, contrabalanceá-lo.

Outro exemplo de intervenção humana foi quando programadores e engenheiros perceberam a importância absoluta de obter uma imagem de alta qualidade de todos os tons de pele em cada condição de raio. Para evitar vieses. Com a ajuda da IA, eles criaram uma malha de controle para otimizar o ganho e ajustaram o obturador da câmera para garantir a mesma qualidade de imagem, independentemente da cor da pele. Outra maneira de eliminar o viés é trabalhar diretamente no número de imagens e identidades por grupo no conjunto de dados de aprendizagem.

Usando dados anônimos para proteger a privacidade

Com as crescentes preocupações em torno da proteção da privacidade, é importante notar que os atores responsáveis estão comprometidos em proteger a privacidade do usuário final usando apenas bancos de dados anônimos para treinar algoritmos de IA. Do ponto de vista tecnológico, ao treinar um algoritmo para reconhecer rostos, não há necessidade de atribuir dados biométricos a uma pessoa específica — o algoritmo só precisa de fotos do mesmo rosto de ângulos diferentes, em várias condições de iluminação, com vários acessórios ou cortes de cabelo, ou em diferentes idades. Em outras palavras, os usuários só precisam de respostas do sistema, não dos dados reais usados pelos algoritmos de IA no processo de tomada de decisão.

Para reprimir quaisquer preocupações persistentes, as autoridades e os regulamentos de privacidade, como o GDPR na Europa, foram criados para definir diretrizes claras para a coleta e o uso de dados e garantir a conformidade.

Pensando a IA para o futuro — o que vem por aí para as tecnologias de identidade e segurança?

O futuro dos dados

Com a onda tecnológica continuando a crescer, é seguro dizer que os volumes de dados só continuarão a crescer exponencialmente. Isso significa que há uma quantidade considerável de dados não rotulados sendo criados a cada segundo todos os dias – dados que ainda não estão sendo usados em todo o seu potencial. Essa mudança nos volumes de dados certamente continuará a alimentar modelos de IA e casos de uso no futuro.

A mudança no horizonte é a mudança da aprendizagem supervisionada (usando-se apenas dados rotulados) para a aprendizagem semi-supervisionada (usando dados rotulados e dados não rotulados), fracamente supervisionada (usando rótulos indiretos) ou mesmo aprendizagem não supervisionada (usando apenas dados não rotulados). Essas técnicas permitem aumentar o uso de dados mesmo quando os rótulos não estão disponíveis ou são muito difíceis de produzir. Mas sejamos claros, quer os dados sejam rotulados ou não, o processo de aprendizagem – e a medição de seus desempenhos – permanecerá sob supervisão humana.

Explicando a IA

Estamos começando a entender o que acontece dentro das redes neurais; um processo que continuará avançando nos próximos anos. Hoje, os especialistas em IA estão investigando mais a fundo como os algoritmos de aprendizagem profunda chegam às conclusões que chegam, particularmente quando não atingem o resultado esperado. Dito isso, é importante lembrar que, embora um algoritmo permita que uma máquina aprenda por conta própria, ele também é apoiado por um processo industrial. Os seres humanos ainda têm a tarefa extremamente importante de validar, testar, medir resultados e fazer o que for preciso para garantir a precisão do algoritmo. Nós, humanos, não podemos simplesmente desenvolver a tecnologia e "deixá-la solta".

Compromissos da IDEMIA ao trabalhar com tecnologias de IA

Na IDEMIA, a IA não é apenas uma ferramenta para analisar dados de negócios ou otimizar a logística, como em muitas outras empresas, ela está no centro das soluções que desenvolvemos. Mais precisamente, nós o usamos para permitir que nossos sistemas obtenham informações significativas de entradas visuais e ajam ou façam recomendações de acordo.

Conformidade de dados e regulamentos de privacidade

Em primeiro lugar, a IDEMIA reconhece a natureza sensível de todos os aspectos pessoais. Estamos comprometidos com a proteção de dados, não apenas quando treinamos algoritmos de IA e desenvolvemos soluções, mas também quando nossas soluções são usadas em campo. Consideramos absolutamente essencial garantir que as nossas soluções não sejam sequestradas, adulteradas ou contornadas. Para tal, prestamos especial atenção à forma como os dados são tratados e aos regulamentos aplicáveis. Na verdade, muito antes da regulamentação do GDPR existir, tínhamos criado nossos próprios processos e infraestrutura para gerenciar dados pessoais com segurança — esses processos agora também estão em conformidade com regulamentos de privacidade, como o GDPR na Europa, regulamentos de privacidade dos EUA ou seus equivalentes em outras regiões.

Como os dados são coletados e usados

Para criar os algoritmos mais precisos, precisamos constantemente acessar mais dados — de forma responsável. Obtemos dados de clientes, em conformidade com as regulamentações de privacidade relevantes, para treinar seus algoritmos e fornecer produtos e soluções de alto desempenho. Também contamos com dados compartilhados voluntariamente por nossos funcionários para construir nosso banco de dados ano após ano. Por fim, criamos imagens sintéticas usando uma Rede Adversarial Gerativa (GAN). Isso nos permite gerar imagens faciais sintéticas qualitativas e impressões digitais que são completamente fictícias. Assim, quando um cliente nos pede para compartilhar dados para testar a eficiência de nossos algoritmos, podemos compartilhar nossos dados sintéticos.

Aproveitando nossa experiência em criptografia para proteger dados e sistemas

Como líder em nosso campo, estamos comprometidos em criar soluções que protejam os dados pessoais e garantam que eles não possam e não sejam usados indevidamente. Para isso, aplicamos nossa experiência em técnicas de criptografia e direitos de gerenciamento de acesso para projetar bancos de dados de forma a permitir que usuários autorizados pesquisem um banco de dados por uma pessoa específica sem lhes dar acesso à lista de pessoas nesse banco de dados. Isso significa que ninguém pode extrair dados pessoais — nem a IDEMIA, nem nossos clientes, governos ou qualquer pessoa que possa tentar invadir. Além disso, sempre que isso é possível, projetamos soluções e sistemas para garantir que os dados pessoais sejam mantidos apenas por seus proprietários individuais – criptografados no elemento seguro de um documento, um cartão inteligente ou smartphone, por exemplo.

À medida que a tecnologia e as técnicas criptográficas continuam a avançar, continuamos investindo em novas maneiras de proteger ainda mais os dados pessoais e garantir o acesso restrito a esses dados.

Garantir a verdadeira inclusão

Hoje, podemos dizer com orgulho que nossos algoritmos de aprendizado profundo são tão eficientes que os vieses dificilmente podem ser medidos – uma afirmação que é igualmente ousada e rara em nosso setor. Mas isso não é tarefa fácil! Nossas equipes dedicadas são especialistas no complexo processo de preparar dados de treinamento e ajustar a maneira como um algoritmo aprende em um determinado conjunto de dados. Eles também garantem que nossos bancos de dados contenham uma variedade de imagens do mesmo elemento em várias condições de aquisição para garantir a verdadeira inclusão.

Uso ético de tecnologias de IA: uma abordagem coletiva

Todos no ecossistema têm que fazer sua parte para proteger os usuários. Isso inclui players industriais como a IDEMIA, grupos de trabalho nacionais e internacionais e think tanks, acadêmicos, reguladores e clientes que usam a tecnologia. Ao longo dos anos, a IDEMIA se posicionou como um parceiro privilegiado no ecossistema francês de IA. Trabalhamos em estreita colaboração com a CNIL e a Agência Nacional de Pesquisa da França; participar de workshops promovidos pelo Projeto de Reconhecimento Facial do Fórum Econômico Mundial; apoiar o ecossistema acadêmico trabalhando com várias cadeiras de pesquisa de alto nível, especialmente em IA. Além disso, fazemos questão de analisar cuidadosamente como nossos clientes podem usar nossas soluções de IA e fazer parceria apenas com aqueles que se alinham com nossos padrões éticos.

Num contexto internacional cada vez mais competitivo, apelamos a regulamentos rigorosos em torno da coleta de dados para fins de investigação, a fim de cumprir as normas éticas, enquanto apoiamos a competitividade da indústria. No futuro, planejamos continuar a explorar outros caminhos também, como a criação de um rótulo para "fornecedores confiáveis" em nível europeu, por exemplo. Quando consideramos que o reconhecimento facial por IA pode ser usado em diversos contextos governamentais (controle de fronteiras, por exemplo.), garantir a origem da tecnologia não é apenas um elemento-chave da soberania nacional, mas levanta questões sobre desempenho, metodologia, ética e muito mais. Consideramos imprescindível dispor de uma estrutura que possa ajudar os clientes a escolher com tranquilidade a solução tecnológica que melhor se adapte às suas necessidades, com base em critérios técnicos claramente definidos e avaliados. O objetivo final é que, algum dia, os clientes que usam IA "confiável" — ou, mais precisamente, a tecnologia resultante — possam ter certeza de que ela atende a todos os padrões do setor.
1 https://www.nist.gov/publications/face-recognition-vendor-test-part-3-demographic-effects