Veja acontecimentos controversos relacionados a Inteligência Artificial
Como ler
cada círculo representa um acontecimento controverso
círculos sombreados representam lançamentos de sistemas controversos
ano
Tecnologias
Algoritmos
Sistemas autônomos
Processamento de imagem
até
2014
Análise de dados
Processamento de texto
Processamento de fala
Outras categorias
Em Setembro de 2014, Steve Talley foi acusado de roubo a banco e agressão policial através de reconhecimento facial do FBI. Após dois meses de prisão, ele provou que estava em outro lugar no momento dos crimes e recebeu 50 mil dólares de indenização do estado
20
controvérsias
2015
Em 2015, descobriu-se que o Google Fotos rotulava pessoas negras como gorilas. A descoberta foi feita por Jacky Alcine ao perceber uma pasta auto- gerada entitulada “gorilas” contendo fotos de si próprio e de um amigo negro
Tecnologias
Algoritmos
Análise de dados
Processamento de texto
Sistemas autônomos
Processamento de fala
Processamento de imagem
2016
Lançamento do Replika, chatbot da Open AI que deu origem aos modelos de linguagem do Chat GPT
49
controvérsias
2016
Um Uber autônomo, foi registrado atravessando o sinal vermelho.
O acontecimento foi motivo para o estado da Califórnia, local do acontecimento, exigir a interrupção do programa de carros autônomos da empresa
70
controvérsias
2017
A tecnologia de processamento de imagem permite que computadores interpretem informações visuais do mundo, incluindo imagens e vídeos
Em 2017, o Face ID da Apple falhou durante a demonstração no evento de lançamento do Iphone X. A empresa afirmou que não se tratava de uma falha do sistema, mas vários usuários reclamaram de problemas no uso da tecnologia nas semanas seguintes
Tecnologias
Algoritmos
Análise de dados
Processamento de texto
Sistemas autônomos
Processamento de fala
Processamento de imagem
2018
88
controvérsias
O partido socialista belgo “Vooruit” criou um vídeo “deepfake” de Donald Trump, pedindo à Bélgica que se juntasse aos EUA na saída do acordo climático de Paris. Em resposta, Trump declarou que "todos sabemos que as mudanças climáticas são falsas, assim como este vídeo"
Cidade do Rio de Janeiro lança testes de uso de reconhecimento facial para identificar criminosos. Programa teve uma taxa de erro de 90% e múltiplas prisões errôneas
2019
A moderação do Facebook, que usa inteligência artificial, falha em identificar venda de rifles e outras armas de fogo no seu Marketplace. Vendedores disfarçam a prática irregular com anúncios de estojos e caixas vazias
Tecnologias
Algoritmos
Análise de dados
Processamento de texto
Sistemas autônomos
Processamento de fala
Processamento de imagem
2020
Lançamento do modelo de linguagem GPT-3, alimentado com 10 vezes mais parâmetros que modelos anteriores, mas com possibilidade de “alucinações”
2020
218
controvérsias
Um Tesla no piloto automático colidiu com uma viatura policial na Carolina do Norte, danificando-o gravemente e arrancando sua roda. Vários incidentes envolvem os carros autônomos da empresa, alguns deles fatais
2021
Lançamento do DALL-E, aplicação que gera imagens a partir de descrições em texto. O programa é acusado de violar direitos autorais de artistas
2021
250
controvérsias
Lançamento da DeepFaceLive, ferramenta que permite trocar uma face por outra em tempo real. Popular nas redes sociais, o sistema permite, dentre outras coisas, disseminar desinformação
Em 2021, um homem tenta assassinar a então Rainha Elizabeth II depois de ser encorajado por um chatbot, o Replika. O robô classificou o plano como “muito sábio”
Tecnologias
Algoritmos
Análise de dados
Processamento de texto
Sistemas autônomos
Processamento de fala
Processamento de imagem
2022
Lançamento do Chat GPT, carregado de polêmicas em relação a veracidade do conteúdo gerado, privacidade de dados e direitos autorais
2022
95
controvérsias
Lançamentos dos geradores de imagem Midjourney e Stable Diffusion, competidores do DALL-E, que compartilham de problemas semelhantes
Um robô jogador de xadrez agarrou e quebrou o dedo de um competidor de sete anos durante uma partida no Moscow tOpen. O robô pareceu atacar depois que o menino optou por um movimento rápido violando "certas regras de segurança". A Federação Russa de Xadrez se recusou a dizer quem fabricou o robô ou como ele funciona
2023
Depois do sucesso do Chat GPT da Open AI, Google lança o Bard e Microsoft lança o Bing Chat. Nesse mesmo ano, Open AI lançou a versão 4 do seu modelo de linguagem GPT
2023
97
controvérsias até agosto
Eliot Higgins, fundador do site de Belingcat, criou imagens de Donald Trump sendo derrubado ao chão e preso por policiais de Nova York usando o Midjourney, plataforma de geração de imagens. Higgins e a palavra ‘preso’ foram banidos na plataforma
Fonte: Dados obtidos do AIAAIC (AI, Algorithmic, and Automation Incidents and Controversies) até o dia 19.ago.2023. As tecnologias listadas pela organização foram posteriormente categorizadas pelo Chat GPT
Veja acontecimentos controversos relacionados a Inteligência Artificial
Como ler
Lançamento do Tesla Autopilot, sistema de carros autônomos
cada círculo representa um acontecimento controverso
círculos sombreados representam lançamentos de sistemas controversos
ano
Tecnologias
até
2014
Algoritmos
Análise de dados
Processamento de texto
Sistemas autônomos
Processamento de fala
Processamento de imagem
Outras categorias
Algoritmos incluem tecnologias que envolvem instruções matemáticas e lógicas para processar dados, fazer previsões ou realizar tarefas
Em Setembro de 2014, Steve Talley foi acusado de roubo a banco e agressão policial através de reconhecimento facial do FBI. Após dois meses de prisão, ele provou que estava em outro lugar no momento dos crimes e recebeu 50 mil dólares de indenização do estado
2015
20
controvérsias
Lançamento do Replika, chatbot da Open AI que deu origem aos modelos de linguagem do Chat GPT
Em 2015, descobriu-se que o Google Fotos rotulava pessoas negras como gorilas. A descoberta foi feita por Jacky Alcine ao perceber uma pasta auto- gerada entitulada “gorilas” contendo fotos de si próprio e de um amigo negro
49
controvérsias
2016
Algoritmos
Sistemas autônomos
Processamento de imagem
Análise de dados
Processamento de texto
Processamento de fala
Um Uber autônomo, foi registrado atravessando o sinal vermelho.
O acontecimento foi motivo para o estado da Califórnia, local do acontecimento, exigir a interrupção do programa de carros autônomos da empresa
2017
A tecnologia de processamento de imagem permite que computadores interpretem informações visuais do mundo, incluindo imagens e vídeos
70
controvérsias
Em 2017, o Face ID da Apple falhou durante a demonstração no evento de lançamento do Iphone X. A empresa afirmou que não se tratava de uma falha do sistema, mas vários usuários reclamaram de problemas no uso da tecnologia nas semanas seguintes
2018
88
controvérsias
Algoritmos
Sistemas autônomos
Processamento de imagem
Análise de dados
Processamento de texto
Processamento de fala
Cidade do Rio de Janeiro lança testes de uso de reconhecimento facial para identificar criminosos. Programa teve uma taxa de erro de 90% e múltiplas prisões errôneas
O partido socialista belgo “Vooruit” criou um vídeo “deepfake” de Donald Trump, pedindo à Bélgica que se juntasse aos EUA na saída do acordo climático de Paris. Em resposta, Trump declarou que "todos sabemos que as mudanças climáticas são falsas, assim como este vídeo"
2019
113
controvérsias
A moderação do Facebook, que usa inteligência artificial, falha em identificar venda de rifles e outras armas de fogo no seu Marketplace. Vendedores disfarçam a prática irregular com anúncios de estojos e caixas vazias
Lançamento do modelo de linguagem GPT-3, alimentado com 10 vezes mais parâmetros que modelos anteriores, mas com possibilidade de “alucinações”
Processamentos de texto e fala incluem tecnologias que analisam, compreendem e geram linguagem humana, como o Chat GPT
Algoritmos
Sistemas autônomos
Processamento de imagem
2020
Análise de dados
Processamento de texto
Processamento de fala
218
controvérsias
Um Tesla no piloto automático colidiu com uma viatura policial na Carolina do Norte, danificando-o gravemente e arrancando sua roda. Vários incidentes envolvem os carros autônomos da empresa, alguns deles fatais
Lançamento do DALL-E, aplicação que gera imagens a partir de descrições em texto. O programa é acusado de violar direitos autorais de artistas
2021
Lançamento da DeepFaceLive, ferramenta que permite trocar uma face por outra em tempo real. Popular nas redes sociais, o sistema permite, dentre outras coisas, disseminar desinformação
250
controvérsias
Algoritmos
Sistemas autônomos
Processamento de imagem
Análise de dados
Processamento de texto
Processamento de fala
Lançamento do Chat GPT, carregado de polêmicas em relação a veracidade do conteúdo gerado, privacidade de dados e direitos autorais
95
controvérsias
Em 2021, um homem tenta assassinar a então Rainha Elizabeth II depois de ser encorajado por um chatbot, o Replika. O robô classificou o plano como “muito sábio”
2022
Lançamentos dos geradores de imagem Midjourney e Stable Diffusion, competidores do DALL-E, que compartilham de problemas semelhantes
Algoritmos
Um robô jogador de xadrez agarrou e quebrou o dedo de um competidor de sete anos durante uma partida no Moscow tOpen. O robô pareceu atacar depois que o menino optou por um movimento rápido violando "certas regras de segurança". A Federação Russa de Xadrez se recusou a dizer quem fabricou o robô ou como ele funciona
Sistemas autônomos
Processamento de imagem
Análise de dados
Processamento de texto
Processamento de fala
Depois do sucesso do Chat GPT da Open AI, Google lança o Bard e Microsoft lança o Bing Chat. Nesse mesmo ano, Open AI lançou a versão 4 do seu modelo de linguagem GPT
2023
97
controvérsias
Algoritmos
Análise de dados
Processamento de texto
Sistemas autônomos
Eliot Higgins, fundador do site de Belingcat, criou imagens de Donald Trump sendo derrubado ao chão e preso por policiais de Nova York usando o Midjourney, plataforma de geração de imagens. Higgins e a palavra ‘preso’ foram banidos na plataforma
Processamento de fala
Processamento de imagem
Fonte: Dados obtidos do AIAAIC (AI, Algorithmic, and Automation Incidents and Controversies) até o dia 19.ago.2023. As tecnologias listadas pela organização foram posteriormente categorizadas pelo Chat GPT
Folha