IMPLICAÇÕES ÉTICAS E DESAFIOS PARA A GOVERNANÇA DE SISTEMAS DE DECISÃO AUTOMATIZADA
Barra lateral de artigos
Conteúdo do artigo principal
Resumo
A Inteligência Artificial (IA) automatiza processos decisórios críticos em Sistemas de Informação (SI), mas sua operação revela dilemas como vieses algorítmicos e opacidade, justificando a necessidade de governança robusta para assegurar a equidade. Este estudo analisa as implicações éticas e desafios de governança em Sistemas de Decisão Automatizada (SDA), visando mitigar riscos operacionais. A metodologia consiste em pesquisa qualitativa exploratória, fundamentada em revisão bibliográfica e análise documental de marcos como o EU AI Act e o PL 2338/2023. Os resultados demonstram que a governança eficaz exige mecanismos de explicabilidade e supervisão humana (human-in-the-loop) para converter princípios éticos em requisitos auditáveis, enfrentando desafios técnicos de arquitetura impostos por novas regulações. Conclui-se que o fortalecimento da governança de TI é indispensável, posicionando o profissional de SI como um gestor ético capaz de mediar a inovação tecnológica com a integridade sistêmica.
Detalhes do artigo
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Referências
ACM – Association for Computing Machinery. Code of Ethics and Professional Conduct. New York: ACM, 2018. Disponível em: https://www.acm.org/code-of-ethics. Acessado em: Jan. 2026.
Angwin, J. L. et al. Machine Bias: There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica, New York, s. v., s. n., 23 maio 2016. Disponível em: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing. Acessado em: Nov. 2025.
Barocas, S. B.; Selbst, A. D. Big Data's Disparate Impact. California Law Review, Berkeley, v. 104, n. 3, p. 671-732, jun. 2016. Disponível em: https://www.jstor.org/stable/24758720. Acessado em: Out. 2025.
Brasil. Congresso Nacional. Senado Federal. Projeto de Lei n.º 2338 de 2023. Dispõe sobre o uso da Inteligência Artificial no Brasil. Brasília, DF: Senado Federal, 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acessado em: Maio. 2026.
Dastin, J. D. Amazon scraps secret AI recruiting tool that showed bias against women. Reuters, London, s. v., s. n., 10 out. 2018. Disponível em: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G). Acessado em: Dez. 2025.
Latini , L. M. D.; Klafke, G. F.; Feferbaum, M. Comitês de ética em inteligência artificial (IA): por onde começar?. GV-EXECUTIVO, [S. l.], v. 24, n. 1, p. e92932, 2025. DOI: 10.12660/gvexec.v24n1.2025.92932. Disponível em: https://periodicos.fgv.br/gvexecutivo/article/-view/92932. Acessado em: Nov. 2025.
OCDE - Organização para a Cooperação e Desenvolvimento Econômico. Recommendation of the Council on Artificial Intelligence. Paris: OECD/LEGAL/0449, 2024. Disponível em: https://legal-instruments.oecd.org/en/instruments/OECD-LEGAL-0449. Acessado em: Maio. 2026.
Russell, S. J.; Norvig, P. N. Inteligência Artificial: uma abordagem moderna. 3. ed. Rio de Janeiro: Elsevier, 2017.
União Europeia. Parlamento Europeu; Conselho da União Europeia. Regulamento (UE) 2024/1689 de 13 de junho de 2024 que estabelece regras harmonizadas em matéria de inteligência artificial (Regulamento Inteligência Artificial). Jornal Oficial da União Europeia, Bruxelas, 2024. Disponível em: http://data.europa.eu/eli/reg/2024/1689/oj. Acessado em: Maio. 2026.