Controle social e novas tecnologias: por um debate ético

Resumo

Tendo em vista o largo desenvolvimento tecnológico das últimas décadas, o atuarialismo reinante ante a gestão de setores sociais de risco, e o emprego maciço de técnicas de inteligência artificial para fins de controle, especialmente penal, o presente artigo sustenta que, malgrado a evolução legislativa brasileira em matéria de privacidade e proteção de dados pessoais, não se pode prescidir da crítica à expansão da teia de controle, particularmente perigosa quando colocados em tela anseios tão arraigados quanto aquele da segurança a (quase) qualquer custo. Ainda, esta análise pretende demonstrar que são vários – e, talvez, irremediáveis – os riscos e problemas inerentes à banalização da inteligência artificial como técnica de controle, mormente no que diz respeito aos danos decorrentes da falta de transparência; à ilusão de eficiência vinculada a técnicas de predição; à problemática dos vieses algorítmicos e da discriminação; e à questão da seletividade – própria do sistema penal e potencializada pelas máquinas –, bem como de todos os seus efeitos adversos, sobretudo no que se refere ao alargamento das distorções do sistema carcerário brasileiro e à incapacitação, no limite, de comunidades inteiras, sem que haja prevenção real da criminalidade de fato. Torna-se urgente, nesse sentido, um debate ético.