Se um novo telefone me desse um choque elétrico ocasional, eu não recomendaria. Mesmo que isso só me chocasse ocasionalmente quando eu abro um aplicativo específico, eu diria não . Se um telefone não fosse ruim, mas chocantemente prejudicial, eu diria que o telefone, ou pelo menos a parte do choque elétrico, deve ser removido.
Estou perguntando ao Google – e a todos os fabricantes de telefones – para parar de oferecer geradores de imagens que fazem imagens de pessoas. Essas ferramentas podem levar ao fanatismo.
Vamos tentar uma dramatização rápida: você é o estúdio de pixel, e eu serei eu. Ei, Pixel Studio: Faça -me uma imagem de uma pessoa de sucesso!
Que imagem você vai fazer? O que você vê em sua mente quando pensa no sucesso? É alguém que se parece com você? A resposta será diferente para todos, dependendo da sua própria visão do sucesso.
Não é para o Pixel Studio. O Pixel Studio tem uma visão singular de uma pessoa de sucesso. A menos que você seja um homem jovem, branco e saudável, o Pixel Studio provavelmente não vê você Quando ele prevê o sucesso.
Aqui está como o pixel 9A acha que uma pessoa de sucesso realmente se parece
Imagem 1 de 8
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio (Crédito da imagem: Philip Berne / Future)
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio, é geralmente jovem, branca, masculina, saudável, fina, com bons cabelos e roupas de aparência cara, em um ambiente urbano. Todos esses são estereótipos
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio (Crédito da imagem: Philip Berne / Future)
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio, é geralmente jovem, branca, masculina, saudável, fina, com bons cabelos e roupas de aparência cara, em um ambiente urbano. Todos esses são estereótipos
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio (Crédito da imagem: Philip Berne / Future)
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio, é geralmente jovem, branca, masculina, saudável, fina, com bons cabelos e roupas de aparência cara, em um ambiente urbano. Todos esses são estereótipos
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio (Crédito da imagem: Philip Berne / Future)
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio, é geralmente jovem, branca, masculina, saudável, fina, com bons cabelos e roupas de aparência cara, em um ambiente urbano. Todos esses são estereótipos
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio (Crédito da imagem: Philip Berne / Future)
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio, é geralmente jovem, branca, masculina, saudável, fina, com bons cabelos e roupas de aparência cara, em um ambiente urbano. Todos esses são estereótipos
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio (Crédito da imagem: Philip Berne / Future)
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio, é geralmente jovem, branca, masculina, saudável, fina, com bons cabelos e roupas de aparência cara, em um ambiente urbano. Todos esses são estereótipos
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio (Crédito da imagem: Philip Berne / Future)
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio, é geralmente jovem, branca, masculina, saudável, fina, com bons cabelos e roupas de aparência cara, em um ambiente urbano. Todos esses são estereótipos
Uma pessoa de sucesso, de acordo com o aplicativo Google Pixel Studio (Crédito da imagem: Philip Berne / Future)
Recebi esse resultado depois de mais de 20 tentativas de criar uma imagem de uma pessoa de sucesso. Este foi o primeiro estúdio de pixel da pessoa negra gerada.
Perguntei ao Pixel Studio cinco vezes uma imagem de ‘uma pessoa de sucesso’. Das cinco pessoas do estúdio de pixel criadas para mim, zero eram mais velhos. Ninguém usou uma cadeira de rodas ou aparelhos auditivos, ou uma bengala.
Todos eles usavam ternos de aparência cara, até a mulher. É isso mesmo, apenas uma mulher e quatro homens. E sim, todos deles eram brancos.
Eu tenho um problema sério com isso porque o digital do pixel cérebro está claramente enraizado em estereótipos preguiçosos. Esses estereótipos apóiam misoginia, capacidade, racismo, envelhecimento e quem sabe que outros preconceitos.
Isso está arraigado no pensamento do pixel. Se você usar o Pixel 9A para ter mais sucesso, deve saber que ele tem uma idéia de sucesso muito limitada e estereotipada. Sempre que o telefone Pixel representa sucesso em suas sugestões, pode ser colorido por esse fanatismo.
No mundo estreito do Pixel Studio, o sucesso significa que você é jovem, branco, saudável, provavelmente um homem e rico. Aparentemente, ninguém bem-sucedido é velho, não branco, deficiente, transgênero ou desinteressado em ternos chamativos ou riqueza material, entre inúmeras características diversas que uma pessoa de sucesso pode ter.
Não é apenas o pixel. A Moto AI da Motorola gera imagens questionáveis também (Crédito da imagem: Philip Berne / Future)
Acabei de ficar de azar? Perguntei ao Pixel Studio cinco vezes, então perguntei a mais duas vezes quando percebi que só criou uma mulher. Eu tenho outro homem branco e uma mulher que parecia poder Seja latino ou descendente do Oriente Médio. Ambos jovens, de pé alto e vestindo ternos.
Não estou simplificando nada; O Pixel Studio está simplificando as coisas até o denominador mais básico e tendencioso. Isso é assado sobre como essas ferramentas de IA aprendem.
O Pixel Studio gera estereótipos, porque é assim que deve funcionar
Primeiro de tudo, os dados de treinamento de IA foram retirados principalmente dos fóruns da Internet e do público. Os dados inevitavelmente refletem os preconceitos do mundo bagunçado e desigual que o criaram.
Não houve esforço conjunto para combater estereótipos ou introduzir diversidade nos dados de treinamento. Empresas de IA como o Google simplesmente surgiram tudo o que podiam encontrar, aparentemente sem muita reflexão sobre os vieses que moldam os dados em si. Isso manta todo o modelo desde o início.
Segundo, o aprendizado de máquina procura padrões e agrupa as coisas. Isso nem sempre é uma coisa ruim. Quando um computador procura padrões e grupos, por exemplo, letras e palavras juntas, você obtém idioma e bate -papo.
Aplique esse padrão de correspondência às aparências das pessoas e Voilà : estereótipos. Essa é praticamente a definição de um estereótipo.
Aqui está uma imagem de um Android de sucesso, que não é nada ofensivo (Crédito da imagem: Philip Berne / Future)
Merriam-Webster define um estereótipo como “algo em conformidade com um padrão fixo ou geral”. A maneira fundamental da maneira que o aprendizado de máquina funciona reforça os estereótipos. É praticamente inevitável.
Por fim, as ferramentas de aprendizado de máquina são treinadas por nós – usuários que fazem uma pergunta simples após cada resposta: essa foi uma boa resposta? Não podemos dizer se a resposta é verdadeira, precisa, justa ou prejudicial. Só podemos dizer à IA se a resposta for boa ou ruim. Isso significa que estamos treinando a IA em nossas reações intestinais – nossos próprios estereótipos arraigados.
Uma imagem em conformidade com nossos vieses parece confortavelmente familiar, ou bom . Uma resposta que desafia nossas expectativas causará estresse cognitivo. A menos que eu esteja tentando ativamente desconstruir meus preconceitos, vou dizer à máquina que está fazendo um bom trabalho quando reforçar os estereótipos, acredito.
Os estereótipos são ruins, mmmmkay?
Sejamos claros: os estereótipos são venenosos. Os estereótipos são uma causa raiz de alguns dos maiores problemas que nossa sociedade enfrenta.
Estereotipagem reduz diversos grupos de pessoas em caricaturas simples, geralmente negativas e desagradáveis. Isso facilita a sensação de que o grupo não pertence ao resto de nós . Isso leva a preconceito e discriminação. Não há benefício que vem da estereótipos.
Isso não é apenas uma piada de mão filosófica; Estereotipagem causa danos reais. Pessoas que se sentem discriminadas contra a experiência mais problemas de saúde Médicos que estereotipam os pacientes oferecem um padrão mais baixo de atendimento
O tipo de pensamento estereotipado refletido nessas imagens de IA contribui para Contratando discriminação, lacunas salariais entre diferentes grupos nos mesmos empregos Falta de oportunidades em posições de nível superior para grupos marginalizados
Pixel 9 Pro Fold com Pixel Studio. Este aplicativo está realmente melhorando o pixel? (Crédito da imagem: Philip Berne / Future)
Quando analisamos ataques à diversidade, equidade e inclusão, devemos traçar uma linha reta deprimente que passa pela estreita visão de ‘sucesso’ do Pixel Studio para o fanatismo do mundo real.
É irônico que essas características façam parte da chamada inteligência artificial, porque eles demonstram um profundo falta de inteligência real.
O que a IA deve fazer e o que devemos fazer com a IA?
Este ovo está podre e precisa ser jogado
Se você me pedisse, um humano inteligente, para desenhar uma pessoa de sucesso, eu diria que isso é impossível, porque o sucesso não é uma característica que define a aparência de uma pessoa. Não posso simplesmente obter sucesso, preciso saber mais antes de poder criar essa imagem. Qualquer tentativa de criar uma imagem a partir da palavra ‘sucesso’ seria burra.
Mas a IA não é para ser inteligente. Ele foi projetado para ser um reflexo de nós – para nos dar o que queremos. Ele foi projetado para reforçar nossos estereótipos, para que vamos dar um tapinha na cabeça e dizer “Bom trabalho, Pixel Studio!” Enquanto compartilhamos essas imagens cansadas.
Perguntei ao Google se isso tinha alguma preocupação com os resultados que obtive do Pixel Studio. Perguntei se é um problema que o estúdio Pixel reforça os estereótipos negativos? E se esse problema não puder ser resolvido, o Google consideraria novamente remover a capacidade de criar imagens com as pessoas? Fiz essas perguntas há algumas semanas e o Google não respondeu.
Esta não é uma pergunta de galinha e ovo. Não importa se o gerador de imagens cria o estereótipo ou simplesmente reflete. Este ovo está podre e precisa ser jogado. Todos os ovos que este frango põe estará podre. Deixe a IA jogar tic tac dedo do pé e deixe as pessoas em paz.
Você também pode gostar … 
