Departamentos de polícia norte-americanos, especialmente junto à fronteira com o México, estão a investir centenas de milhares de dólares numa tecnologia secreta e ainda não comprovada que utiliza perfis digitais gerados por inteligência artificial com o objetivo de interagir e recolher informações sobre “manifestantes universitários”, activistas políticos considerados “radicalizados” e suspeitos de tráfico de droga e de pessoas. A revelação foi feita com base em documentos internos, contratos e comunicações obtidos pelo 404 Media através de pedidos de acesso a registos públicos.

A empresa por trás desta tecnologia é a Massive Blue, tem sede em Nova Iorque e apresenta o produto com o nome Overwatch — promovido como um “multiplicador de força baseado em IA para a segurança pública”. A solução inclui agentes virtuais hiper-realistas, capazes de se infiltrarem em redes criminosas e interagir com elas em diferentes canais digitais.

De acordo com uma apresentação acedida pelo 404 Media, a Massive Blue fornece às autoridades estas personas digitais, programadas para circular pela internet e interagir diretamente com suspeitos através de mensagens de texto e redes sociais.

Embora os documentos não detalhem todos os aspetos técnicos do funcionamento do Overwatch, é possível perceber que a ferramenta cria perfis nas redes sociais com imagens e textos gerados por IA, que simulam identidades humanas e servem para estabelecer contacto com suspeitos de tráfico de droga, armas e pessoas. Depois de identificar potenciais alvos em canais abertos, os agentes virtuais podem continuar a conversa por SMS, Discord e outras plataformas de mensagens.

Os documentos não esclarecem os critérios utilizados pela Massive Blue para determinar quem é considerado suspeito com base na actividade online. Salzwedel, representante do Condado de Pinal, afirmou que “as soluções da Massive Blue exploram diversas áreas da internet, sendo as redes sociais apenas uma parte do processo. Não podemos divulgar mais detalhes para proteger a integridade das nossas investigações.”

Além de interacções em tempo real, a apresentação refere ainda que o Overwatch pode gerar imagens falsas de “prova de vida”, mostrando uma pessoa a segurar um cartaz com um nome de utilizador e uma data escrita à mão.

https://www.wired.com/story/massive-blue-overwatch-ai-personas-police-suspects/