O desenvolvimento de máquinas capazes de imitar o pensamento humano, superá-lo ou até mesmo tornar-se autoconsciente é uma premissa bem explorada dentro da ficção científica. No cenário tecnológico de hoje, o advento da inteligência artificial – IA – pode se tornar uma das maiores conquistas da humanidade, mas como o renomado físico Stephen Hawking alertou, “também pode ser a última, a menos que aprendamos a evitar os riscos”.
Maior automação:quem puxa o gatilho?
A tecnologia sofisticada continua a se incorporar à sociedade moderna, desde assistentes pessoais digitais e algoritmos de busca inteligente no Google até carros autônomos experimentais. A inteligência artificial é definida como um computador ou máquina capaz de realizar "dedução lógica e inferência" e "tomar decisões com base em experiências passadas ou informações insuficientes ou conflitantes". Os níveis tecnológicos atuais já apresentam dilemas éticos assustadores, como se os drones militares ou outros sistemas robóticos devem ser projetados para usar força letal contra alvos sem envolvimento humano direto. Atualmente, as máquinas programadas podem reagir com maior velocidade e precisão do que um operador humano, mas ainda são capazes de erros grosseiros sem preconceitos humanos e intuição para orientar a tomada de decisão. Esses problemas serão intensificados se a IA for incorporada a esses sistemas, introduzindo motivos independentes que podem ser completamente imprevisíveis ou em conflito direto com as intenções humanas.
Transformando o mercado
A incorporação da inteligência artificial mudará drasticamente o conceito de trabalho da humanidade. Desde a Era Industrial, a tecnologia de qualquer tipo inevitavelmente torna muitos empregos obsoletos ao mesmo tempo em que cria novas oportunidades em campos emergentes. A IA oferece um futuro em que as máquinas realizam tarefas em nosso lugar, permitindo que as pessoas busquem uma vida de lazer. O economista John Maynard Keynes foi tão longe - em 1930 - a ponto de prever uma semana de trabalho de 15 horas até 2030. Nos níveis populacionais atuais, todos os aspectos da sociedade exigiriam uma drástica revisão cultural e econômica se a automação criasse tal uma mudança dramática em como nossos dias são gastos.
AI:amigo ou inimigo?
Uma ameaça significativa da inteligência artificial é se ela opta por usar habilidades já aprimoradas para criar máquinas com poder cognitivo ainda maior. Gerações avançadas de IA poderiam operar tão acima dos seres humanos quanto nós acima dos animais, e até possivelmente evoluir além da capacidade humana de entendê-la. Neste resultado - referido como a Singularidade pelo Dr. Vernor Vinge para o Simpósio VISION-21 do Centro de Pesquisa Lewis da NASA em 1993 - as regras para a vida como a conhecemos mudariam para sempre, pois não há como prever se a IA decidiria coexistir ou ser hostil à humanidade.
Proteção contra desastres
Hawking enfatiza que qualquer discussão séria sobre inteligência artificial deve levar em consideração as ameaças em potencial e como gerenciá-las, e pede pesquisas institucionais mais críticas, pois cada vez mais recursos corporativos são dedicados à realização de avanços na criação de inteligência artificial. Vinge postula que a IA pode ser rigidamente regulada por regras que efetivamente conectam o comportamento benevolente em robôs autônomos, como imaginado pelas Três Leis da Robótica do escritor de ficção científica Isaac Asimov. Vinge também alerta que a competição humana natural provavelmente levará ao desenvolvimento de modelos irrestritos de IA, portanto, mesmo essas salvaguardas podem não ser suficientes para controlar a Singularidade, se ocorrer.
