A EFF descobriu o trabalho por meio de uma revisão de materiais e procedimentos da Lei de Liberdade de Informação.
“Precisamos projetar sistemas de computação que não sejam simplesmente ferramentas que usamos, mas companheiros de equipe com os quais trabalhamos”, explica o projeto em um ponto.
“Durante anos, grupos de liberdades civis alertaram sobre as ameaças que surgem da crescente dependência da aplicação da lei em tecnologias automatizadas, como reconhecimento facial e sistemas de 'policiamento preditivo'. Nos últimos anos, também chamamos a atenção para os problemas inerentes aos robôs policiais autônomos, como os robôs de patrulha de segurança Knightscope em forma de picles e os robôs 'cachorros' quadrúpedes que o Departamento de Segurança Interna dos EUA deseja implantar ao longo da fronteira EUA-México. fronteira”, explicou a fundação.
Mas disse que a mais nova iteração “vai muito mais longe”.
A ideia é que a IA aprenda “com o humano e seu ambiente” e depois use esse conhecimento “para ajudar a orientar a equipe sem exigir instruções específicas do humano”.
Em seu cenário, o PNNL explica que os dois “oficiais recebem um alerta de um assalto em andamento, e imediatamente os drones são grampeados, o reconhecimento facial é usado, a tecnologia de direção autônoma incorporada e a previsão algorítmica posta em ação.
“Enquanto o policial Miller dirige para o local do roubo, o D-PO monitora as imagens da câmera de um drone autônomo da polícia circulando a cena do crime. Em seguida, o D-PO usa seu reconhecimento de imagem de aprendizado profundo para detectar um indivíduo que corresponda à descrição do suspeito. O D-PO informa ao oficial Miller que tem uma correspondência de alta confiança e solicita para assumir a direção para que o oficial possa estudar as imagens de vídeo. O oficial aceita o pedido e D-PO compartilha as imagens de vídeo do possível suspeito no visor do carro de patrulha. D-PO destacou os recursos no vídeo e explica os recursos que levaram à sua classificação de alta confiança”, explicou o relatório da EFF.
Depois, há uma discussão entre Miller e o oficial digital sobre como prender o suspeito.
“Os autores deixam o leitor concluir o que acontece a seguir. Se você acredita na fantasia, pode imaginar essa narrativa terminando em uma apreensão perfeita, onde ninguém fica ferido e todos recebem uma medalha – até o companheiro de equipe digital. Mas para aqueles que examinam a interseção entre policiamento e tecnologia, há um grande número de finais trágicos, desde identidade equivocada que leva uma pessoa inocente ao sistema de justiça criminal até um tiroteio policial evitável – um que termina em zero responsabilidade, porque o policial Miller é capaz de culpar um algoritmo não punível por fazer uma recomendação defeituosa”, disse o relatório da EFF.
A organização informou que a tecnologia aparentemente está “longe”, mas observou que um departamento de polícia da cidade já manifestou interesse nos recursos.
Mas não informou que a tecnologia também está sendo empurrada como opcional para os oficiais de Alfândega e Proteção de Fronteiras.
“O CBP é famoso por investir em tecnologias experimentais em nome da segurança das fronteiras, de dirigíveis de vigilância a torres de vigilância autônomas. No cenário do PNNL, o Border Inspections Teammate System (BITS) seria uma inteligência artificial autodirigida que se comunica com os inspetores do posto de controle por meio de um fone de ouvido de realidade aumentada (AR) ”, disse o relatório.
A EFF então alertou sobre os problemas de adotar tecnologia não comprovada, que “muitas vezes é baseada em narrativas milagrosas, mas implausíveis, promovidas por desenvolvedores de tecnologia e profissionais de marketing, sem contemplar os danos que podem causar”.
“A sociedade seria mais bem servida se a equipe do PNNL usasse sua imaginação coletiva para explorar os perigos das novas tecnologias de policiamento, para que possamos evitar as armadilhas, e não o jetpack direto para elas”, observou o relatório.
E mais...
+ EM BREVE - WEF: 'Vamos microchipar seus filhos'
+ Marchas do Orgulho da Zoofilia exigem que o movimento LGBTQI + adicione um Z
+ Estão sendo desenvolvidas “vacinas” aerossolizadas que podem ser pulverizadas em cidades humanas para despovoamento automático
+ Tumor de câncer de sarcoma pode se desenvolver no local da injeção da vacina
+ Mulheres absorvem e retêm DNA de todos os homens com quem fazem sexo
Considere apoiar o Tribuna Nacional - Precisamos do seu apoio para continuar nosso jornalismo baseado em pesquisa independente e investigativa sobre as ameaças do Estado Profundo que a humanidade enfrenta. Sua contribuição, por menor que seja, nos ajuda a nos mantermos à tona.
