O desenvolvimento de veículos autónomos e de sistemas de aprendizagem automática levantam novas questões sobre como a lei deve ser aplicada em casos que envolvam a operação desta tecnologia.
Sónia Moreira, investigadora no JusGov – Centro de Investigação em Justiça e Governação e professora na Escola de Direito da Universidade do Minho (UM), está a estudar como os sistemas de inteligência artificial devem ser enquadrados no âmbito do direito e da justiça.
“A inteligência artificial ocupa já várias áreas da nossa sociedade. Temos veículos autónomos que em breve vão provocar danos é preciso resolver quem é que vai pagar por esses danos. Temos drones assassinos no âmbito do direito internacional privado, temos descriminação nos concursos de trabalho, no âmbito do direito do trabalho. Temos o uso de inteligência artificial nos tribunais. Há uma série de problemas que se levantam e é preciso decidir quem é que vai responder pelos danos causados, e garantir que os direitos fundamentais dos cidadãos são respeitados”, explica.
Um dos principais desafios é a questão de opacidade nos sistemas black box. Nestes sistemas o algoritmo opera de uma forma individual e opaca apresentando apenas o resultado da decisão sem esclarecer os passos que levou até a tomar.
Nestas situações, se o algoritmo estiver protegido por direitos de autor não é possível ter acesso a ele, além de que existem também algoritmos que através de aprendizagem automática e de deep learning conseguem alterar a sua própria programação e evoluir para além da função para a qual foram programados.
“Existem já sistemas de inteligência artificial que tomaram decisões para as quais não foram programados e não se sabe como é que chegaram lá. Isto é um risco, um risco enorme”, alerta.
Sónia Moreira pretende com este estudo criar propostas de legislação que permitam ajudar o Estado Português a legislar estes sistemas no sentido de proteger os direitos fundamentais dos cidadãos nas diferentes áreas.
“Vamos fazer agora um congresso em que vamos apresentar os resultados preliminares deste estudo para eventualmente no futuro podermos apresentá-los ao Estado Português”, reforça.
Saiba mais sobre a investigadora em: JusGov
Related Episodes
