A Carta Magna de 1988 ao mencionar que o agente, na qualidade de representante da administração pública, responde apenas se comprovada sua culpa ou dolo, traz duas importantes diferenciações sobre a responsabilidade, quais sejam, a responsabilidade sobre a ótica objetiva e a responsabilidade sob a ótica subjetiva.
Por responsabilidade subjetiva, Mello128 destaca que é a obrigação de indenizar por procedimento contrário ao direito, causando danos a outrem ou deixando de impedi-lo, de forma culposa ou dolosa.
Por responsabilidade objetiva, Mello129 aponta que é a obrigação de indenizar atribuída a alguém em razão de um procedimento lícito ou ilícito que produziu um lesão na esfera juridicamente protegida de outrem. Para configura-la basta, pois, a mera relação causal entre o comportamento e o dano. Conforme abordado no tópico anterior, o estado responderá objetivamente pelos danos causados na perseguição do seu múnus público, por ocupar uma relação de superioridade em relação ao administrado.
127 PIRES; SILVA, 2017, p. 251.
128 MELLO, 2016, p. 1.035. 129 MELLO, 2016, p. 1.038.
Pela teoria do órgão ou teoria da imputação volitiva, ambas facetas do princípio da impessoalidade, é o agente público que age em nome do estado. Carvalho130 aponta que além da teoria clássica ligada ao princípio da impessoalidade, referindo-se como a ação estatal sem privilégios, que não discrimina as pessoas seja para benefício ou para prejuízo, a doutrina moderna apresenta outra faceta do princípio em discussão, essa ligada à atuação do agente.
Nesse sentido, quando o agente público realiza qualquer ação na persecução de seu múnus público, age, na verdade, representando o Estado e mais especificadamente do órgão que está atrelado. Por tal definição atribui-se a tal reflexão o nome de teoria do órgão ou da imputação volitiva. Tal princípio encontra guarida no art. 37 §1º da Constituição Federal de 1988131, cujo texto proíbe a vinculação de nomes, símbolos ou imagens que caracterizem a promoção pessoal dos agentes públicos nos atos, programas, obras ou serviços e campanhas dos órgãos públicos.
Sendo assim, quando um particular sofre um dano em virtude da ação estatal, buscará do Estado e não do particular, a indenização que lhe cabe para satisfazer os prejuízos ocasionados injustamente, sejam na esfera material ou na esfera moral.
Sobre o tema, Mello132 aduz que a norma prevista na Constituição Federal de 1988, em seu art. 37, §6º, visa a proteção do administrado, dando-lhe a garantia de um patrimônio solvente, visto que o agente público, por vezes, não disporá de patrimônio suficiente para arcar com o montante do dano. A partir deste ponto, surge para o Estado, mantenedor inicial do prejuízo, a obrigação de agir contra o agente causador do dano, fazendo-o via ação regressiva.
Dessa forma, a Administração pública tem o direito de cobrar do agente público, via ação de regresso, indenização, aplicando-se a responsabilidade subjetiva conforme narra o texto constitucional de 1988 art. 37 §6º, onde observar-se-á a culpa ou o dolo pela ação dos seus representantes.
A ação regressiva de acordo com Justen Filho133 é um verdadeiro poder-dever do Estado em desfavor do agente que, mediante ação ou omissão, deu ensejo à condenação judicial para a reparação do dano. O dever-poder para o autor acima citado134 é aquele que guarda todas
130 CARVALHO, 2015, p. 66.
131 § 1º A publicidade dos atos, programas, obras, serviços e campanhas dos órgãos públicos deverá ter caráter
educativo, informativo ou de orientação social, dela não podendo constar nomes, símbolos ou imagens que caracterizem promoção pessoal de autoridades ou servidores públicos. BRASIL, 1988.
132 MELLO, 2016, p. 1.068.
133 JUSTEN FILHO, Marçal. Curso de direito administrativo. São Paulo: Editora Revista dos Tribunais, 2014,
p. 1365.
as ações necessárias e adequadas visando o atendimento do interesse da sociedade de um modo geral, ou seja, atendendo o princípio maior da supremacia do interesse público.
A supremacia do interesso público pode ser conceituada, de acordo com a doutrina de Mello135, como sendo todas as limitações, sujeições e restrições impostas pela lei à Administração pública no condão de evitar a atuação estatal de modo lesivo aos interesses públicos ou aos direitos fundamentais dos administrados.
Assim, a ação regressiva é, em determinados casos, de obrigatório manejo, para não ocasionar prejuízo à Administração Pública e, por consequência, toda a sociedade. Ter que arcar com a monta do dano significa separar grandes montas de dinheiro do orçamento público a fim de arcar com o prejuízo do terceiro, oriundo de uma ação por vezes ilícita de seu agente.
Tendo por consciência a obrigatoriedade da ação regressiva e pelo arcabouço jurídico acima apontado sobre a responsabilidade subjetiva dos agentes públicos, considerando ainda que a IA pode ser taxada como um agente público especial, resta-nos meditar sobre como se daria eventual ação regressiva dentro da discussão trazida pelo presente trabalho. Para tal, é importante buscar na memória o que já foi abordado no tópico 2.2, onde discutiu-se como uma inteligência artificial adquire sua autonomia de pensamento e de ação.
O que muda, em todos os principais meios de aprendizagem que foram citados, é a forma de adquirir conhecimento e não o que é apreendido. Em suma, o agente inteligente adquire conhecimento a partir de dados fornecidos por seus desenvolvedores, ou seja, todos os dados utilizados pela IA a fim de adquirir conhecimento e montar sua própria solução para perseguir seu objetivo, foram monitorado diretamente pela Administração Pública. É importante apontar ainda que além dos dados, os objetivos que balizam a atuação da inteligência artificial também advieram do Estado.
Diante desse contexto, seria impossível aplicar, novamente, responsabilidade ao agente inteligente visto que não há como avaliar se a IA possuiu dolo ou culpa nas ações danosas que causarem aos administrados. Na prática, o que é possível auferir dentro do contexto apresentado, é se o agente inteligente foi bem ou mal ensinado.
Os ensinos de Usai136 apontam que o programador deverá certificar o governo de que o programa está de acordo com os padrões referenciados e adequado para perseguir os fins pelos os quais foi criado, onde, após um teste prático comprovando seu correto funcionamento, deverá ser posto em funcionamento.
135 MELLO, 2016, p. 102.
136 “Il programmatore [...] dovrà certificare alla pubblica amministrazione che il programma attui le direttive e
De acordo com a reflexão de Pires e Silva137, tendo por base que a IA possui a habilidade inerente de aprender, quem ensina possui o dever de guarda e vigilância pois é aquele quem seleciona e proporciona experiências à IA e tais experiências são distintas de indivíduos para indivíduos.
Por ser distinta a percepção de mundo de pessoa para pessoa, é imprudente, por exemplo, que o dado repassado ao agente inteligente seja referenciado por uma única pessoa, sob pena de, por exemplo, replicar um pensamento preconceituoso. Quando determinado dado é filtrado por diversas mentes, diminui-se o risco de decisões desastrosas, evitando, nesse contexto, ação danosa. O mesmo raciocínio aplica-se às balizas de atuação da IA para a persecução dos seus objetivos e até mesmo em relação aos próprios objetivos.
Fica mais evidente a responsabilidade da administração pública no processo de desenvolvimento dessas tecnologias inteligentes. Adotar padrões de segurança rigorosos a fim de não só garantir uma pluralidade de visões sobre o dado apresentado à IA, mas também definindo os padrões de atuação e seus objetivos é de fator fundamental para o sucesso da introdução dessa solução tecnológica dentro o ambiente público.
Pelo arcabouço de informação apresentado, eventual ação regressiva deve ser interposta contra o agente público em si, e não contra a IA, posto que o desenvolvedor é responsável por ensinar a IA o que aprender ou não. Não só isso, mas também as suas diretivas, objetivos, limites, e demais ordenamentos e princípios perseguidos pela atividade estatal.
Caso reste comprovado dolo ou culpa do agente desenvolvedor da tecnologia no processo de seu desenvolvimento, deve o agente responder pelos danos que sabidamente ou de forma imprudente, imperita ou negligente causou, restando por assim caracterizada a sua responsabilidade subjetiva.
Não se pode olvidar que poderíamos ver aplicada a responsabilidade objetiva ao próprio agente criador da IA, caso ele próprio seja o beneficiário financeiro de sua criação. Como criou, arcaria não só com o bônus do desenvolvimento tecnológico mas também com o ônus.
6 CONCLUSÃO
Apesar da revolução tecnológica vivenciada na administração pública atual, a introdução da Inteligência Artificial no Estado traria significativas modificações. Em termos práticos em muitas repartições ainda é necessário ocupar um servidor público para analisar a procedência ou não de um pedido feito pelo administrado, ou, até mesmo, para proferir um simples despacho requisitando a complementação de um documento nos autos de um processo administrativo, dentre outros padrões semelhantes que verificamos na atividade administrativa estatal brasileira.
Dessa forma, tem-se procurado otimizar a sua atividade, trazendo para dentro da Administração Pública soluções tecnológicas inteligentes. Assim, o poder público busca preservar o princípio da eficiência, equilibrando o contingenciamento de despesas com a limitação de recursos humanos. O uso de sistemas inteligentes capazes de produzir atos administrativos pelo Estado desobstruirá vários gargalos da administração, com economia e agilidade na prestação efetiva do serviço público, satisfazendo as necessidades modernas.
Dessa forma, a presente monografia procurou verificar a constitucionalidade da introdução desses mecanismos para a produção de atos administrativos, pontuando também sobre a necessidade de adequação infraconstitucional, escolhendo ainda debater sobre dois problemas que possivelmente surgirão com a utilização desses sistemas, o das escolhas públicas e o da responsabilidade extracontratual do Estado.
Para isso foi feita a contextualização histórica da Inteligência Artificial, demonstrando não só como a tecnologia se desenvolveu, mas seu atual estágio de desenvolvimento e as suas futuras perspectivas, apontando que essa plataforma tecnológica veio para auxiliar o homem em atividades extremamente específicas. Foi arguido ainda o que é machine learning (aprendizagem de máquina) e as formas que a IA utiliza para construir seu aprendizado.
Foi caracterizado também o que é o ato administrativo eletrônico, seus elementos (sujeito, objeto, motivo, finalidade e forma), demonstrando o que o ato administrativo eletrônico precisa ter para ser válido, e as suas classificações (ato administrativo
tradicionalmente eletrônico, ato administrativo eletrônico automatizado, ato administrativo eletrônico totalmente automatizado e administrativo eletrônico parcialmente automatizado).
Sobre a constitucionalidade, verificou-se que na atual conjuntura a Carta Magna não impõe obste para a utilização desses sistemas, contudo, no âmbito infraconstitucional, apesar não haver qualquer empecilho, resta claro que não estamos perto do ideal em termos legais, devendo ser formulado um marco regulatório para a normatização completa dessa matéria,
contando com a participação de toda a sociedade, estabelecendo princípios que preservem os direitos da pessoa humana.
Sobre o problema das escolhas administrativas, conclui-se que por ser a IA tecnologia que auxilia em missões altamente específicas, a utilização desses instrumentos em atos discricionários, como o que acontece nas escolhas administrativas, ainda está muito distante de acontecer, sendo, contudo, perfeita sua utilização em atos vinculados, onde os parâmetros de decisão estão previamente fixados em lei.
Ainda nesse contexto, a presente monografia apontou a necessidade de haver, tanto em relação aos atos vinculados quanto em relação aos adis discricionários, uma câmara revisora composta necessariamente de agentes humanos para avaliar as decisões eletrônicas alvo de recursos.
Restou igualmente claro de que é possível aplicar o instituto da convalidação de atos emanados pela IA, cujos vícios sejam sanáveis, afim de que tenham novamente eficácia no mundo jurídico, a critério do administrador.
Não se pode deixar de trazer ainda como conclusão que, nos atos administrativos eletrônicos, cabe o controle jurisdicional, afim de sanar os possíveis vícios existentes na confecção do ato administrativo eletrônico que esteja fora dos padrões legais, ou que não se coadunem com a evolução da sociedade. Neste último, contudo, restou claro que IA consegue, pelo seu constante processo de aprendizagem, se atualizar com mais celeridade do que um agente físico, evitando decisões não mais aceitas pela sociedade.
Por fim, sobre a problemática da responsabilização extracontratual do Estado pelos danos provocados pela IA utilizadas no ambiente da Administração Pública, pois, como observado, ainda não é possível entender por completo a motivação do agente inteligente em determinadas decisões, inclusive pelos próprios projetistas do sistema, concluiu-se que os danos produzidos à terceiros pela IA dentro do contexto da Administração Pública deverá ser arcado totalmente pelo Estado, adotando a figura da responsabilidade civil extracontratual objetiva, por ser a IA um agente público especial.
Já em relação ao direito de regresso, não poderá recair sobre a IA em si, mas sim sobre àquele que o desenvolveu, na forma subjetiva de início, visto que é o responsável por ensinar a IA o que aprender e os seus respectivos limites. Caso próprio crie a IA e seja o beneficiário principal da tecnologia, deverá responder também na forma objetiva.
Dessa forma, e por tudo que fora debatido, o que se espera a partir do presente trabalho é lançar as soluções iniciais para o problema da introdução da IA na Administração Pública, assunto bastante complexo e cheio de obstáculos que ainda precisam ser debatidos na
comunidade jurídica brasileira. Pode-se esperar, em um futuro próximo, a tentativa de regulamentação desses instrumentos a fim de dar melhor segurança jurídica tanto para quem utiliza quanto para quem produz IA.
REFERÊNCIAS
ALPAYDIN, Ethem. Introduction to machine learning. Massachusetts: MIT Press, 2010. AMARAL, Antônio Carlos Cintra do. Teoria do ato administrativo. Belo Horizonte: Fórum, 2008.
BALDUINI, Giancarlo. Associazione Nazionale Aziende Servizi Informatica (Anasin). Genius, Milano: Zeno-Zenovich, 1985.
BONAVIDES, Paulo. Curso de direito constitucional. 23. ed. atual. e ampl. São Paulo: Malheiros Editores, 2008.
BRASIL. [Constituição (1988)]. Constituição da República Federativa do Brasil. 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/Constituicao/Constituicao.htm. Acesso em: 25 set. 2019.
BRASIL. Lei nº 10.406, de 10 de janeiro de 2002. Código Civil. 2002. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/2002/l10406.htm. Acesso em: 25 set. 2019. BRASIL. Lei nº 12.527, de 18 de novembro de 2011. Disponível em:
http://www.planalto.gov.br/ccivil_03/_Ato2011-2014/2011/Lei/L12527.htm Acesso em: 25 set. 2019.
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Disponível em:
http://www.planalto.gov.br/CCIVIL_03/_Ato2011-2014/2014/Lei/L12965.htm Acesso em: 25 set. 2019.
BRASIL. Lei nº 4.717, de 29 de junho de 1965. Regula a ação popular. 1965. Disponível em: http://www.planalto.gov.br/ccivil_03/Leis/l4717.htm. Acesso em: 19 jan. 2020. BRASIL. Lei nº 8.666 de 21 de junho de 1993. Regulamenta o art. 37, inciso XXI, da Constituição Federal, institui normas para licitações e contratos da Administração Pública e dá outras providências. Brasília, 1993. Disponível em:
http://www.planalto.gov.br/ccivil_03/leis/l8666cons.htm. Acesso em: 16 jan. 2020. BRASIL. Lei nº 9.784, de 29 de janeiro de 1999. Brasília, 1999. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l9784.htm. Acesso em: 25 set. 2019.
BRASIL. Medida Provisória nº 2.200-2 de 24 de agosto de 2001. Institui a Infra-Estrutura de Chaves Públicas Brasileira - ICP-Brasil, transforma o Instituto Nacional de Tecnologia da Informação em autarquia, e dá outras providências. 2001. Disponível em:
http://www.planalto.gov.br/ccivil_03/MPV/Antigas_2001/2200-2.htm. Acesso em: 25 set. 2019.
BRASIL. Supremo Tribunal Federal. Recurso Extraordinário nº 1.054.110. Relator: Min. Luiz Roberto Barroso. São Paulo, 09/05/2019. Disponível em:
https://portal.stf.jus.br/processos/downloadPeca.asp?id=15341025600&ext=.pdf. Acesso em: 26 jan. 2020.
BRASIL. Supremo Tribunal Federal. Inteligência artificial vai agilizar a tramitação de
processos no STF. 2018. Disponível em:
http://www.stf.jus.br/portal/cms/verNoticiaDetalhe.asp?idConteudo=380038. Acesso em: 19 set. 2019.
BRUNA, Maria Helena Varella. Melanoma maligno. Drauzio, abr. 2017. Disponível em: https://drauziovarella.uol.com.br/doencas-e-sintomas/melanoma-maligno/. Acesso em: 17 jan. 2020.
BULOS, Uadi Lammêgo. Curso de direito Constitucional. São Paulo: Saraiva, 2011. CÂMARA, Hermano Victor Faustino; ROSA, Mariana Camilo Medeiros. Direitos da Personalidade de agentes públicos e acesso à informação em conflito na cena política brasileira contemporânea. Espaços e Tempos Midiáticos, v.1, n.1, p. 73-92, jul./dez. 2016. Disponível em:
https://sistemas.uft.edu.br/periodicos/index.php/midiaticos/article/view/3009/9444. Acesso em: 30 jan. 2020.
CARVALHO FILHO, José dos Santos. Manual de Direito Administrativo. 11. ed. Rio de Janeiro: Lumen Juris, 2004.
CARVALHO, Matheus. Manual de Direito Administrativo. Salvador: Juspodvm, 2015. CUNHA JÚNIOR, Dirley da. Curso de Direito Constitucional. Salvador: Juspodvm, 2011. DI PIETRO, Maria Sylvia Zanella. Direito administrativo. São Paulo: Atlas, 2011.
DOUGAL, Mac. Computer programing for spatial problems. Londres: Edward Arnold, 1976.
FAGUNDES, M. Seabra. O controle dos atos administrativos pelo poder judiciário. 8. ed. atual. Rio de Janeiro: Forense, 2010.
FILGUEIRAS JÚNIOR, Marcos Vinícios. Ato administrativo eletrônico e teleadministração: perspectivas de investigação. Revista de Direito Administrativo, Rio de Janeiro, v.237, 2004.
FRANÇA, Catarina de Sousa. A responsabilidade civil extracontratual do estado na
prestação de serviços públicos de saúde. São Paulo: Max Limonad, 2017.
FRANÇA, Vladimir da Rocha. Estrutura e motivação do ato administrativo. São Paulo: Malheiros, 2007.
FRANÇA, Vladmir da Rocha. Invalidação judicial da discricionariedade administrativa
no regime jurídico-administrativo brasileiro. Rio de Janeiro: Forense, 2000.
FRANCIS, Jo; FUEGI, John. Lovelace & Babbage and the creation of the 1843 'notes'.
Proceedings of the IEEE, dez. 2003. Disponível em:
GUERRA, Sérgio. Discricionariedade e reflexividade. Belo Horizonte: Fórum, 2008. JUSTEN FILHO, Marçal. Curso de direito administrativo. São Paulo: Editora Revista dos Tribunais, 2014.
KNIGHT, Will. The dark secret at the heart of AI: no one really knows how the most advanced algorithms do what they do - that could be a problem. MIT Technology Review, abr. 2017. Disponível em: https://www.technologyreview.com/s/604087/the-dark-secret-at- the- heart-of-ai/. Acesso em: 19 nov. 2019.
MEDAUAR, Odete. Direito administrativo moderno. São Paulo: Editora Revista dos Tribunais, 2012.
MEDAUAR, Odete. Direito administrativo moderno. São Paulo: Editora Revista dos Tribunais, 2014.
MEIRELLES, Hely Lopes. Direito administrativo brasileiro. São Paulo, Malheiros, 2011. MELLO, Celso Antônio Bandeira de. Curso de Direito administrativo. São Paulo:
Malheiros, 2016.
MENDES, Gilmar Ferreira. Direitos fundamentais e controle de constitucionalidade: estudos de direito constitucional. São Paulo: Instituto Brasileiro de Direito Constitucional, 1998.
MOKARZEL, Fábio Carneiro, SOMA, Nei Yoshihiro. Introdução à Ciência da
Computação. Rio de Janeiro: Elsevier, 2008.
MOREIRA NETO, Diogo de Figueiredo. Discricionariedade administrativa das autoridades reguladoras e aplicação das normas punitivas. Revista de Direito Administrativo, Rio de Janeiro, v. 254, 2010. Disponível em:
http://bibliotecadigital.fgv.br/ojs/index.php/rda/article/view/8076/6864. Acesso em: 19 nov. 2019.
MUEHLHAUSER, Luke; SALAMON, Anna. Intelligence explosion: evidence and import.
In: EDEN, Amnon et al. (Eds.). Singularity hypotheses: a scientific and philosophical
assessment. Berlin: Springer, 2012. Disponível em: https://intelligence.org/files/IE-EI.pdf. Acesso em: 19 nov. 2019.
O QUE é data center e qual o melhor tipo para sua empresa? Positivo Tecnologia, nov. 2017. Disponível em: https://www.meupositivo.com.br/panoramapositivo/data-center/ Acesso em: 19 set. 2019.
PAESANI, Liliana Minardi. Direito de informática: comercialização e desenvolvimento
internacional do software. 10. ed. São Paulo: Atlas, 2015.
PALFREY, Jon; GRASSER, Urs. Nascidos na era digital: entendendo a primeira geração dos nativos digitais. Porto Alegre: Artmed, 2011.
PIRES, Thatiane Cristina Fontão; SILVA, Rafael Peteffi da. A responsabilidade civil pelos atos autônomos da inteligência artificial: Notas iniciais sobre a resolução do parlamento europeu. Revista Brasileira de políticas Públicas, v. 7, n. 3, dez. 2017.
ROCHA, Anna Emanuella Nelson dos Santos Cavalcanti da. Biografias não autorizadas: uma discussão inócua no Brasil? Fides, Natal, v.5, n. 2, jul./dez. 2014. Disponível em:
http://www.revistafides.ufrn.br/index.php/br/article/view/185/191. Acesso em: 30 jan. 2020. ROVER, Aires José. Informática no Direito: inteligência artificial. Curitiba: Juruá, 2001. RUSSEL, Stuart; NORVING, Peter. Inteligência Artificial. Tradução Regina Célia Simille. Rio de Janeiro: Elsevier, 2013.
SILVA, José Afonso da. Curso de direito constitucional positivo. 32. ed. São Paulo: Malheiros, 2009.
SIQUEIRA, Mariana de. Interesse público no direito administrativo brasileiro: da construção da moldura à composição da pintura. 2014. Disponível em:
https://repositorio.ufpe.br/bitstream/123456789/16281/1/Tese- Mariana%20Final.pdf%20corrigido.pdf. Acesso em: 26 jan. 2020. TARTUCE, Flávio. Manual de direito civil. São Paulo: Método, 2017.
USAI, Alessandro. Le elaborazioni possibili delle informazioni. I limiti alla decisioni
amministrative automatiche. Roma: Istituto Poligrafico dello Stato, 1992. Disponível em:
https://sites.google.com/site/teleamm/pubblicazioni/dallinformatica-amministrativa-alla teleamministrazione/alessandro-usai. Acesso em: 25 jan. 20.