A Oasis Labs faz parceria com a Meta para avaliar a imparcialidade de seus modelos de IA usando tecnologias de privacidade de ponta

Uma inédita iniciativa permitindo inclusão e justiça!

Aviso: Essa publicação é uma tradução feita por um embaixador da Oasis. Verificações rigorosas são feitas para prover traduções precisas, mas elas estão sujeitas a erros ou omissões. A Oasis não é responsável pela sua precisão e consistência. Leia o artigo original aqui.

Anunciamos com prazer a parceria com a Meta, com o lançamento de uma plataforma que avalia a imparciabilidade em seus produtos, protegendo a privacidade das pessoas. A Oasis Labs construiu a plataforma que usa o Secure Multi-Party Computation (SMPC) visando proteger as informações, pois no Instagram a Meta solicita aos usuários a participação de uma pesquisa no qual podem compartilhar voluntariamente sua raça ou etnia.

A vida dos indivíudos será positivamente impactada em todo o mundo, beneficiando a sociedade em geral a medida em que o projeto avançar na medição de justiça em modelos de IA. Um papel importante será desempenhado por essa tecnologia inédita, numa iniciativa que é um importante passo para identificar se um modelo de IA é justo e permite a mitigação apropriada.

Como a plataforma fará a avaliação de justiça nos modelos de IA

As equipes de Equidade do Instagram, IA Responsável e Direitos Civis da Meta estão apresentando uma pesquisa fora da plataforma para pessoas que usam o Instagram, onde os usuários são solicitados a compartilharem sua raça e/ou etnia de forma voluntária.

Facilitadores terceirizados obterão acesso, em segredo, à estes dados coletados por um provedor de pesquisa terceirizado, de forma que as respostas da pesquisa não possam ser aprendidas pelos facilitadores ou pela Meta. Dados de previsão criptografados de modelos de IA são usados pelo facilitadores para cálculo da medição, onde os resultados combinados e desidentificados de cada facilitador reconstituídos em resultados de medição de justiça agregados pelo Meta. A Meta consegue avaliar o viés e a justiça de acordo com as técnicas criptográficas usadas pela plataforma, no mesmo instante em que fornece aos indivíduos que contribuem com dados de medição demográfica confidenciais, altos níveis de proteção de privacidade.

Leia mais aqui sobre a plataforma, seus objetivos e lançamento.

Uma visão de inclusão global e justiça nos modelos de IA para o benefício de milhões

Uma visão comum é compartilhada entre Meta e Oasis sobre IA responsável e uso destes dados de forma responsável.

Este é o início de uma nova jornada, pois as técnicas criptográficas empregadas na plataforma são inéditas.

Esteban Arcaute, diretor de IA Responsável da Meta disse “buscamos garantir que a IA na Meta beneficie as pessoas e a sociedade, o que requer profunda colaboração, interna e externamente, em um conjunto diversificado de equipes”. “Uma abordagem focada na privacidade desenvolvida em parceria com a Oasis Labs, a metodologia Secure Multi Party Computation, permite um trabalho de medição crucial sobre a justiça, mantendo a privacidade das pessoas em primeiro plano, adaptando métodos de preservação de privacidade bem estabelecidos.”

Com o desejo de alcançar bilhões de pessoas em todo o mundo, esperamos explorar novos usos das tecnologias Web3 emergentes, sustentadas por redes blockchain, juntamente com a Meta. Nosso objetivo é fornecer mais acessibilidade global, auditabilidade e transparência em torno da condução e coleta de dados de pesquisa e seu uso na medição.

“Estamos entusiasmados por ser o parceiro de tecnologia da Meta nesta iniciativa inovadora para avaliar a justiça nos modelos de IA, protegendo a privacidade dos usuários, usando técnicas criptográficas de ponta. Este é um uso sem precedentes dessas técnicas para uma medição em larga escala da justiça do modelo de IA no mundo real. Estamos ansiosos para trabalhar com a Meta para construir uma IA responsável e um uso responsável de dados para uma sociedade mais justa e inclusiva”, disse a professora Dawn Song, fundadora da Oasis Labs.

Trabalho e missão da Oasis Labs

Nossa visão central é o uso da propriedade responsável de dados, pois entendemos que em um mundo Web3 nenhuma entidade pode tomar os dados do usuário como garantidos, sendo assim, criamos tecnologias para garantir que a propriedade e o controle dos dados estejam nas mãos dos indivíduos.

Visamos a construção de plataformas e produtos que promovam a proteção individual da privacidade, governança dos dados e uso responsável de dados, através da blockchain, computação confidencial e tecnologia de preservação de privacidade. Buscamos tornar mais fáceis para os desenvolvedores a incorporação e armazenamento de dados, governança e computação que preservam a privacidade.

Quando combinado com a privacidade de dados, a Web3 e a descentralização possuem a capacidade de alcançar indíviduos por todo mundo, desbloqueando a capacidade de empresas de alcançar um público global, com obtenção de dados confidenciais, preservando a privacidade e criando produtos melhores que tratam todos igualmente.

Fique conectado

Se tiver interesse em colaboração ou discutir potenciais parcerias com a Oasis Labs, entre em contato conosco aqui e se mantenha atualizado através de nossas midias como Twitter e assinando nosso boletim informativo .

Mantenha se atualizado sobre o desenvolvimento da Rede Oasis através do nosso Discord, Twitter e assine a newsletter