A máquina distópica pode identificar 'dissidência' contra o estado e sugerir sentenças para criminosos aparentes.
Os pesquisadores afirmam que o “promotor” da AI pode decidir sobre as acusações com mais de 97 % de precisão com base em uma descrição verbal do caso.
No entanto, teme-se que a máquina, que foi construída e testada pela Procuradoria do Povo de Xangai Pudong, possa ser transformada em arma pelo estado
Relatórios do MSN : até o momento, ele pode identificar e apresentar queixa pelos oito crimes mais comuns de Xangai, incluindo fraude de cartão de crédito, roubo, direção perigosa e brigas de catação - uma ofensa frequentemente usada contra dissidentes.
A tecnologia foi treinada usando mais de 17.000 casos de 2015 a 2020. Ela pode ser executada em um computador desktop e decide se pressiona uma carga, analisando centenas de "características" obtidas a partir de uma descrição de caso gerada por humanos, de acordo com um relatório no South China Morning Post.
Uma vez que as acusações são apresentadas, é quase garantido que terminarão em condenação, já que a taxa de absolvição da China é inferior a um por cento.
O principal cientista do projeto, o professor Shi Yong, diretor do laboratório de big data e gerenciamento de conhecimento da Academia Chinesa de Ciências, disse que a máquina pode liberar os promotores para se concentrarem em tarefas mais difíceis.
“O sistema pode substituir os promotores no processo de tomada de decisão até certo ponto”, disse Shi e seus colegas em um artigo publicado este mês na revista chinesa Management Review.
A China já vem tentando incorporar tecnologias como IA e big data para transformar a forma como seu sistema jurídico funciona.
Em 2017, as autoridades lançaram o primeiro tribunal cibernético do país, que permite que as partes em casos relacionados ao “digital”, como comércio eletrônico, apareçam por meio de vídeo-chat na frente de juízes de IA virtual. Embora a ideia seja acelerar as audiências e ajudar o sistema a lidar com processos maiores, juízes humanos reais ainda monitoram o que acontece e tomam as decisões importantes.
Em 2016, os promotores chineses começaram a usar uma ferramenta de IA para avaliar as evidências e avaliar o nível de perigo que um suspeito representa para o público.
Mas as ferramentas de IA existentes não desempenham um papel no processo de tomada de decisão de ações e sugestões de punições, de acordo com Shi e seus colegas.
A equipe disse que sua máquina se tornaria mais poderosa com atualizações e seria capaz de reconhecer crimes menos comuns e registrar várias acusações contra um único suspeito.
Um promotor não identificado na cidade de Guangzhou, no sul da China, disse ao South China Morning Post que, embora a máquina tivesse uma precisão relatada de 97 por cento, “sempre haverá uma chance de erro”.
“Quem vai assumir a responsabilidade quando isso acontecer? O promotor, a máquina ou o projetista do algoritmo? ” o promotor perguntou.
Além da pressão legal, as autoridades chinesas também têm tentado usar IA em vários outros setores para melhorar a eficiência e fortalecer a supervisão do governo.
Autoridades americanas expressaram preocupações de que a IA da China e ambições semelhantes possam eventualmente dar a Pequim uma vantagem crítica nas forças armadas, saúde e outros setores importantes.
Em outubro, o ex-chefe de software do Pentágono disse ao Financial Times que a China já havia vencido a batalha da IA contra os EUA e caminhava para o domínio global.
Considere apoiar o Tribuna Nacional
Precisamos do seu apoio para continuar nosso jornalismo baseado em pesquisa independente e investigativa sobre as ameaças do Estado Profundo que a humanidade enfrenta. Sua contribuição, por menor que seja, nos ajuda a nos mantermos à tona.
ESTAMOS NO GETTR
