Sobre o Direito e a Inteligência Artificial (& Robótica) - Parte II
Dizer que nunca antes se falou tanto de um produto do progresso tecnológico é uma expressão quase que redundante, mas peço licença para agir dessa forma aqui. Afinal, nunca antes se falou tanto de Inteligência Artificial (IA), mas como algo concreto, como uma tecnologia que já permeia boa parte de nossas vidas.
Aqueles que ainda vinculam a expressão IA essencialmente com filmes e livros de ficção têm razões para isso (apesar de já ser hora para mudar esse pensamento). Como bem disse John McCarthy, estudioso da ciência da programação e criador da expressão “Artificial Intelligence”, a partir do momento em que a tecnologia inteligente funciona, todo mundo esquece que ela existe[1]. Verdade. Quem costuma pensar na IA do filtro de spams do e-mail, do corretor ortográfico de softwares de texto, dos anúncios dirigidos do Google ou da recomendação de filmes do Netflix? A IA não existe apenas em um robô que age como um ser humano – aliás, pode ser bem diferente disso.
Então, o que é Inteligência Artificial? Para responder a essa pergunta, busquei o conceito cunhado pelo próprio pai da expressão, um dos pioneiros desse campo:
“IA é a ciência e a engenharia de criar máquinas inteligentes, especialmente programas de computador inteligentes. Ela é relacionada à tarefa similar de utilizar computadores para entender a inteligência humana, mas a IA não precisa necessariamente confinar-se aos métodos que são biologicamente observáveis”[2].
Trata-se de um conceito muito rico, que traz um ponto-chave para a reflexão proposta nesta série de textos: a IA pode não funcionar exclusivamente como uma imitação do pensamento/comportamento humano/biológico. Para melhor ilustrar essa questão, julgo importante descrever, de forma sucinta (e como um advogado falando de ciência da programação), alguns dos métodos para desenvolvimento de tecnologias de IA:
Creio que um dos mais óbvios tratava da simples tradução de comportamentos humanos em códigos para dirigir as ações do programa, sejam eles inseridos pelo programador (homem) ou observados pelo programa que tivesse essa capacidade. Há, também, a famigerada machine learning, técnica que orienta o programa a identificar padrões em dados e, a partir daí, a encontrar as respostas para as perguntas que o orientam. Não suficiente, existem também sistemas que utilizam algoritmos evolutivos, nos quais o programa busca uma solução otimizada para um determinado problema através da evolução de seu código, inspirada em fenômenos biológicos como a reprodução, mutação e seleção.
Depois de entender um pouco de como a IA pode evoluir por conta própria, difícil não imaginar diversos cenários futuros, mas por enquanto não precisamos nos preocupar. Os níveis de potência da IA, como referencia o jornalista Tim Urban[3], podem ser enquadrados na seguinte categorização:
1. Artificial Narrow Intelligente (Inteligência Artificial Restrita): também chamada de IA fraca. Trata-se da tecnologia especializada em apenas uma área, com performances que podem facilmente ultrapassar a capacidade humana, mas apenas dentro desse nicho restrito.
2. Artificial General Intelligence (Inteligência Artificial Geral/Ampla): também chamada de IA forte ou IA de nível humano. Trata-se de uma tecnologia de IA capaz de fazer qualquer atividade intelectual que um ser humano pode fazer. Envolve, dentre outras, as capacidades de raciocinar, planejar, resolver problemas, pensar abstratamente, compreender idéias complexas, aprender rápido e aprender com experiências.
3. Artificial Superintelligence (Superinteligência Artificial): IA que ultrapassa o cérebro humano em todas suas capacidades, incluindo criatividade científica, conhecimento geral e habilidades sociais (Nick Bostrom). Inteligência trilhões de vezes maior que a humana. Em suma, se atingida, pode resultar na imortalidade ou na extinção da raça humana.
Atualmente ainda estamos no nível 1, e a grande parte dos estudiosos dizem que é praticamente impossível de atingir o nível seguinte. Outros poucos, como Raymond Kurtzweil, dizem que a IA Geral será alcançada nos próximos 20 anos e, quando isso ocorrer, será questão de pouco tempo até que nasça uma superinteligência.
Apesar de ainda não precisarmos nos preocupar com nossa sobrevivência, a IA restrita, por si só, já demanda atenção aos reflexos de seu emprego. Como citado acima, muitas vezes as ações ordenadas por uma IA podem não ser espelhadas em um comportamento humana ou, mesmo que sejam, podem ser imprevisíveis aos olhos do seu usuário. E é sobre essa imprevisibilidade, dentre outras questões, que o Direito deve se debruçar.
Em 2010, por exemplo, softwares com IA para a operação automatizada com ações na bolsa de valores contribuíram para uma queda de 9% do índice industrial da Dow Jones, em cinco minutos - tal evento foi batizado de 2010 Flash Crash. A Microsoft, em 2016, lançou um perfil no Twitter chamado de Tay, um chatbot dotado de IA que conversaria com usuários e formaria suas opiniões com base nas experiências obtidas nesta rede social. Logo o chatbot passou a exprimir sua adoração por Hitler, proferindo diversos xingamentos racistas e xenófobos – foi retirada do ar no mesmo dia. Por fim, são cada vez mais freqüentes os acidentes envolvendo carros automatizados, controlados por programas de IA.
Quem se responsabiliza pelos danos causados por ações tomadas por um software de IA? A imprevisibilidade do comportamento atenua ou agrava cada caso? O programador seria também responsável por aquilo que sua criação fez (ou deixou de fazer)? Existem critérios que deveriam ser respeitados no desenvolvimento de IA para que ela possa ser tornada acessível ao público?
Cabe ao Direito, em especial (mas não sozinho), responder a essas perguntas. Será que possuímos os mecanismos jurídicos hábeis a lidar com isso? Esse será o tema da parte III dessa série de textos.
[1] http://cacm.acm.org/magazines/2012/1/144824-artificial-intelligence-past-and-future/fulltext
[2] http://www-formal.stanford.edu/jmc/whatisai/node1.html
[3] http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
