Em maio do ano passado a União Europeia foi notícia pela entrada em vigor do Regulamento Geral sobre a Proteção de Dados (EU GDPR – General Data Protection Regulation) – resultado de um processo legislativo que durou seis anos. Os efeitos do GDPR europeu foram imediatos, a aplicação de multas foi rápida e alta, a interpretação da regulamentação tem sido relativamente literal, e a reação à sua implementação aparentemente positiva – ao menos aos olhos dos próprios legisladores/reguladores.
Contudo, para muitas startups de menor porte baseadas na União Europeia, voltadas para tecnologias emergentes, como a inteligência artificial, as exigências da EU GDPR representaram uma certa barreira. Enquanto alguns líderes europeus demandam urgência na adoção de controles regulatórios no uso das tecnologias de Inteligência Artificial que vem surgindo, outros consideram que é melhor esperar por um maior avanço no desenvolvimento das tecnologias de IA antes de impor restrições desnecessárias à inovação através de uma legislação muito precoce.
Mas, tendo em vista a boa repercussão e percepção geral de que a EU GDPR foi um mecanismo necessário e efetivo para proteger europeus, Ursula Von der Leyen, presidente eleita da comissão europeia, já declarou que vai propor nova legislação direcionada à regulamentação da IA nos primeiros 100 dias de mandato – o que significa que uma proposta de tal legislação deva sair até o início de Fevereiro de 2020, e deve manter a posição da União Europeia como primeira no pódio quando se trata de regular a era pós-digital, influenciando todos os países ocidentais ao redor do mundo.
Então, o que se pode esperar dessa legislação?
Embora não seja possível prever a que patamar de regulação tal legislação sujeitará a IA, é possível antecipar, com base em declarações já dadas por líderes europeus e informações divulgadas pela mídia, alguns aspectos que provavelmente serão o foco da regulação. Com base em tais fontes, por exemplo, é provável que a legislação: i) Aborde o financiamento governamental de pesquisas, treinamentos, e disponibilidade de dados públicos; ii) Não seja focada em substituir estruturas legislativas já existentes, mas sim em se encaixar aos limites já estabelecidos pelo GDPR, pela Diretiva da União Europeia sobre direitos de autor no Mercado Único Digital (Directive on Copyright in the Digital Single Market) e pelo regulamento europeu sobre privacidade (e-Privacy Regulation) – pois ainda com a existência de tais regulamentos permanecem muitas lacunas sobre o tema; iii) Preveja a exigência de que qualquer plataforma de chat ou assistente virtual que interaja com seres humanos deverá revelar o fato de ser uma máquina “não-humana” por exemplo; bem como outras exigências de transparência quanto ao uso de dados, sejam eles pessoais ou não; iv) Disponha sobre a exigência de prestação de contas sobre falhas ou problemas; e sobre a responsabilização por decisões e ilegalidade de atos adotados por máquinas; v) Requeira, assim como o GDPR, avaliações periódicas para garantir que a Inteligência Artificial não viole ou perturbe direitos fundamentais, dissemine discriminação ou viole outros valores europeus, entre outros.
Muitas questões permanecem incertas, como por exemplo: se serão aplicados diferentes padrões para diferentes tipos de Inteligência Artificial ou será usado um mesmo arquétipo para todos, independentemente do contexto, como fez o GDPR europeu; se serão fixados critérios para definir se a IA é “boa o suficiente” ou “segura o suficiente” para substituir a intervenção humana; se haverá exigências voltadas a compliance ou padrões de conduta definidos.
Por ora o que é certo é que podemos esperar mais regulação da União Europeia voltada para produtos, serviços e sistemas dotados de inteligência artificial. E, tomando como base o alcance do GDPR, companhias europeias e não-europeias devem desde já estar atentas ao tema.
Isadora Savazzi Rizzi
Advogada – Trajano Neto e Paciornik Advogados