http://repositorio.febab.org.br/files/original/24/3364/2399-2416-1-PB.pdf a01219c822da522a56cd91317eb1c63b PDF Text Text Informação Pública e Informação Corporativa: uma reflexão sobre a transparência dos algoritmos preditivos nas cidades inteligentes Suzana Mayumi Iha Chardulo (ECA/USP) - suzana.chardulo@gmail.com Resumo: Este trabalho tem por objetivo identificar a prática da transparência nas organizações públicas e privadas diante do fenômeno do Big Data Analytics. A metodologia procedimental é a revisão de uma literatura selecionada que aborda preocupações quanto ao problema da opacidade dos algoritmos preditivos utilizados nas pioneiras Smart Cities norte-americanas, na oferta de serviços como segurança, justiça, bem-estar social e educação. São serviços tipicamente públicos, cujo controle está sendo, cada vez mais, centralizado nos fornecedores privados, que detém a expertise e infraestrutura tecnológica para poder rodar os algoritmos preditivos. Palavras-chave: Big Data. Algoritmos Preditivos. Cidades Inteligentes. IoT - Inteligência das Coisas. Informação Pública. Transparência. Gestão da Informação. Polític Eixo temático: Eixo 8: Ciência da Informação Powered by TCPDF (www.tcpdf.org) �XXVIII Congresso Brasileiro de Biblioteconomia e Documentação Vitória, 01 a 04 de outubro de 2019. Resumo expandido de comunicação científica Eixo temático nº 8: Ciência da Informação Introdução: A pesquisa aborda o tema da informação pública e informação corporativa sob a perspectiva da gestão da informação, onde o fluxo da informação representa um elemento fundamental para tomada de decisões e consequentemente no sucesso de suas operações. O setor público para promoção de bem-estar social, e o setor privado para manterem-se competitivos no mercado. Segundo Floridi (2010), graças a revolução da informação, ocorrida após a invenção do computador de Turing, as sociedades desenvolvidas agora dependem muito de bens intangíveis baseados na informação. Os setores privados direcionados para serviços de informação intensiva (serviços empresariais e de propriedade, comunicações, finanças, seguros e entretenimento), assim como os setores públicos orientados para a informação (especialmente educação, administração pública e saúde). Qualificando tais sociedades como “sociedade da informação”. Mas existe outra conotação para o termo informação pública, sob o ponto de vista do seu acesso e visibilidade, como o interesse do público pelo acesso às informações produzidas pelo governo, para monitoramento de suas ações e prevenção à corrupção. Da mesma forma um investidor precisa de informações sobre a saúde financeira das corporações assim como suas atividades relevantes à sociedade. Em sociedades democráticas existem leis e normas que garantem o direito à transparência pública e corporativa. A sociedade da informação hoje também tem sentido o impacto da explosão do fenômeno Big Data, Inteligência Artificial e Machine Learning, que marcam a chegada da era digital e a possibilidade de uma grande mudança social em curto espaço de tempo. Porém tem-se observado um aumento na literatura jurídica preocupações sociais, políticas e éticas dos algoritmos preditivos nas Smart Cities, principalmente com questões como a falta de transparência, respeito à privacidade e a transferência de poder e controle das decisões municipais (de responsabilidade governamental). Diante deste contexto, o tema “informação pública e informação corporativa” foi delimitado para o estudo da transparência dos algoritmos �preditivos utilizados nas Smart Cities. A problemática dos algoritmos preditivos, ao substituir a decisão humana pela máquina, podem trazer escolhas tendenciosas, menos sensíveis e até mesmo preconceituosas. Além disso, quando o governo se torna cliente do setor privado, apenas recebe o resultado dos algoritmos e não consegue responder quando lhe for solicitado. O objetivo deste trabalho é compreender a prática da transparência nas organizações públicas e privadas, ao utilizarem algoritmos preditivos para atividades típicas governamentais nas cidades inteligentes. Pretende-se atingir o objetivo por meio de revisão bibliográfica sobre o tema e análise do conteúdo do estudo Open records act Project: Obtaining documentation of algorithms, apresentado no artigo “Algorithmic Transparency for the Smart City” de Brauneis e Goodman (2018). Uma possível hipótese é que a prática da transparência do poder público em parceria com o setor privado não seja satisfatória em atender as expectativas do solicitante do acesso à informação, apesar de previsão legal para área pública, mesmo considerando as exceções à regra. Para justificar a realização da pesquisa no campo da ciência da informação, destaco o incremento do conhecimento à comunidade científica das questões de riscos ocasionados pela falta de transparência dos algoritmos, na medida em que a opacidade pode esconder interesses conflitantes entre sociedade e dirigentes, assim como camuflar atos de corrupção. Esta situação desperta interesse no campo para ampliar discussões para melhorar os sistemas de gestão de documentos, assim como para o desenvolvimento e aprimoramento de políticas informacionais e evitar a falta de transparência. Método da pesquisa: A pesquisa é do tipo exploratória e o procedimento metodológico adotado foi a revisão da literatura, que foi realizado em duas etapas. A primeira etapa para fundamentação de conceitos e a segunda para coleta de dados. Com o intuito de melhor compreender os conceitos do tema informação pública e corporativa, transparência e Smart Cities, foram realizados os levantamentos em base de dados do Portal de Periódicos CAPES/MEC, Portal do Repositório ENAP e Sistema Integrado de Bibliotecas USP. Para a coleta de dados foi realizado uma busca com os termos “ algorithmic, transparency e smart city” no portal CAPES. Para análise do conteúdo procurou-se verificar o funcionamento do processo de algoritmos, os resultados do projeto e avaliação da falta de transparência. Resultados: A análise do texto de Brauneis e Goodman (2018), “Algorithmic Trasnparency for the Smart City”, onde apresenta-se a evolução do processo de decisão da atividade pública, partindo do julgamento clínico realizado por �pessoas estudando caso a caso, depois o julgamento atuarial baseado em análises de dados estatísticos, e o julgamento do algoritmo preditivo. O processo para implementação do algoritmo preditivo segue as seguintes etapas: 1) elaborar o modelo com base em dados históricos; 2) criar o código do algoritmo; 3) colecionar dados de entrada (inputs); 4) processar o algoritmo e 5) gerar resultados com previsões ou recomendações. Motivados por mais informações sobre os algoritmos os autores realizaram o Open records act Project: Obtaining documentation of algorithms , a pesquisa empírica é realizada por meio de solicitações de acesso à informação à 42 agências (municipais) em 23 estados dos Estados Unidos, a partir da seleção de 6 tipos de algoritmos existentes. Os resultados estão representados no quadro abaixo. Quadro – Resultado das solicitações de acesso à informação Nome do Algoritmo/ Fornecedores Finalidade do Algoritmo Resultado - Respostas à solicitação de Open Records Request – ORR Nome: Public Safety Assessment - PSA Fornecedor: Laura and John Arnold Foudantion Ajuda os juízes a decidirem se detém ou liberam um acusado antes do julgamento 16 ORR - 5 respostas. Nome: Ecker Rapid Safety Feedback -RSF Child Welfare Assessments Fornecedor: Eckerd Kids Identificar casos de bemestar infantil com uma elevada probabilidade de lesões graves na criança ou morte 5 ORR - 4 respostas Nome: Allegheny Family Screening Tool Child Welfares Assessments – AFST Fornecedor: Auckland Facilitar a triagem de casos de bem-estar infantil 1 ORR - 1 resposta Nome: PredPol Predictive Policing Fornecedor: PredPol Inc. Prediz onde e quando crimes de vários tipos podem ocorrer, e assim ajuda as forças policiais a traçar suas patrulhas para deter crimes. 4 respostas negativas 1 resposta com documentos 11 solicitações sem respostas 2 respostas negativas 2 respostas com documentos 1 solicitação sem resposta 1 resposta com documentos 11 ORR - 3 respostas 3 respostas com documentos 8 solicitações sem resposta �Nome: HunchLab Predictive Policing Fornecedor: Azavea, Inc Prediz onde e quando crimes de vários tipos podem ocorrer. 4 ORR - 4 resposta Nome: Value Added Models- VAM- Teacher Evaluation Fornecedor: American Institute for Research Avaliar professores por meio de comparação dos resultados de testes dos estudantes e seu progresso durante um ano. 2 ORR - 2 resposta 3 respostas negativas 1 resposta com documentos 1 resposta negativa 1 resposta com documentos Fonte: Elaborado pela autora compilação dos resultados do projeto. As respostas negativas foram avaliadas por Brauneis e Goodman, nesta avaliação foram observados três obstáculos para a transparência dos algoritmos:  a falta de documentação sobre os algoritmos nas agências governamentais, (a documentação encontrava-se nas instalações do fornecedor);  a frequente alegação de impossibilidade de divulgação sob alegação de sigilo comercial e de confiabilidade;  outras preocupações governamentais, principalmente com segurança e ataques terroristas. Discussão: As parcerias público-privadas aparecem como fator chave no desenvolvimento das Smart Cities. Para Finch e Tene (2018), tais parcerias estão muito além da simples terceirização técnica, trata-se de uma relação de alto nível onde as responsabilidades de cada parte devem estar muito bem delineadas para gerenciar, usar, compartilhar, proteger ou destruir dados. Brauneis e Goodman recomendam o aperfeiçoamento dos contratos entre o governo e os fornecedores dos algoritmos preditivos, com estabelecimento de cláusulas que exijam a guarda dos documentos, evitando o primeiro obstáculo para a transparência, a falta de registros nas agências. Entretanto outras melhorias de gestão de informação poderiam evitar tal risco, Casadesús de Mingo e Cerrillo-i-Martínez (2018) acreditam que o aperfeiçoamento dos sistemas de registros poderá promover a transparência e prevenir a corrupção “Records management systems should not ontly be used for internal purposes but also provide the basis for transparency, and which should be approached in this way throughout the records’ lifecycle” (CASADESÚS DE MINGO; CERRILLO-I-MARTÍNEZ, 2018). Quanto aos outros dois obstáculos à transparência, (a alegação de sigilo comercial/confidencialidade e outras preocupações governamentais), Brauneis e Goodman elencam oito categorias de documentação desejável, dispensando o fornecedor em expor o código do algoritmo desenvolvido (onde reside uma �real preocupação de manutenção de sigilo comercial). Mas os autores também citam iniciativas de políticas informacionais como European Union General Data Protection Regulation (GDPR) e outras deliberações de múltiplos interessados para promoção de transparência e accountability. Considerações Finais: Este trabalho permitiu identificar a prática da transparência pública e corporativa dos algoritmos preditivos. Significa que o objetivo do presente estudo foi alcançado. Da parte do setor público, verificou-se muita dificuldade na obtenção da transparência dos algoritmos preditivos para o fornecimento de serviços públicos. Mais da metade dos órgãos contatados não responderam à solicitação de acesso à informação. Do total de 39 pedidos realizados, 18 responderam e, apenas 9 encaminharam documentos. A resistência em disponibilizar informação foi ainda maior com os órgãos que contratam os fornecedores privados, com frequentes alegações de sigilo comercial e informação confidencial. O resultado evidencia que o desafio informacional persiste, elevando a importância de contínuos estudos no campo da ciência da informação para o auxílio de caminhos possíveis para promoção da transparência do estado informacional. Referências: BRAUNEIS, R.; GOODMAN, E. P. Algorithmic Transparency for the Smart City. SSRN Electronic Journal, v. 103, p. 103–176, 2017. disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3012499 CASADESÚS DE MINGO, A.; CERRILLO-I-MARTÍNEZ, A. Improving records management to promote transparency and prevent corruption. International Journal of Information Management, v. 38, n. 1, p. 256–261, 2018. disponível em: https://doi.org/10.1016/j.ijinfomgt.2017.09.005 FINCH, K.; TENE, O. Smart Cities: Privacy, Transparency, and Community. In: The Cambridge Handbook of Consumer Privacy. Eds. Evan Selinger, 2018. disponível em: https://ssrn.com/abstract=3156014 FLORIDI, L. Information: A very short introduction. New York: Oxford University Press INC., 2010 � Dublin Core The Dublin Core metadata element set is common to all Omeka records, including items, files, and collections. For more information see, http://dublincore.org/documents/dces/. Title A name given to the resource CBBD - Edição: 28 - Ano: 2019 (Vitória/ES) Subject The topic of the resource Biblioteconomia Documentação Ciência da Informação Publisher An entity responsible for making the resource available FEBAB Date A point or period of time associated with an event in the lifecycle of the resource 2019 Language A language of the resource Português Type The nature or genre of the resource Evento Coverage The spatial or temporal topic of the resource, the spatial applicability of the resource, or the jurisdiction under which the resource is relevant Vitória (Espírito Santo) Event A non-persistent, time-based occurrence. Metadata for an event provides descriptive information that is the basis for discovery of the purpose, location, duration, and responsible agents associated with an event. Examples include an exhibition, webcast, conference, workshop, open day, performance, battle, trial, wedding, tea party, conflagration. Dublin Core The Dublin Core metadata element set is common to all Omeka records, including items, files, and collections. For more information see, http://dublincore.org/documents/dces/. Title A name given to the resource Informação Pública e Informação Corporativa: uma reflexão sobre a transparência dos algoritmos preditivos nas cidades inteligentes Creator An entity primarily responsible for making the resource Suzana Mayumi Iha Chardulo Coverage The spatial or temporal topic of the resource, the spatial applicability of the resource, or the jurisdiction under which the resource is relevant Vitória (Espírito Santo) Publisher An entity responsible for making the resource available FEBAB Date A point or period of time associated with an event in the lifecycle of the resource 2019 Subject The topic of the resource Eixo 8: Ciência da Informação Description An account of the resource Este trabalho tem por objetivo identificar a prática da transparência nas organizações públicas e privadas diante do fenômeno do Big Data Analytics. A metodologia procedimental é a revisão de uma literatura selecionada que aborda preocupações quanto ao problema da opacidade dos algoritmos preditivos utilizados nas pioneiras Smart Cities norte-americanas, na oferta de serviços como segurança, justiça, bem-estar social e educação. São serviços tipicamente públicos, cujo controle está sendo, cada vez mais, centralizado nos fornecedores privados, que detém a expertise e infraestrutura tecnológica para poder rodar os algoritmos preditivos. Type The nature or genre of the resource Evento Language A language of the resource pt cbbd2019