Cientistas e engenheiros alertam sobre os perigos da inteligência artificial

Ninguém vibraria muito se visse uma dessas belezas saindo da Microsoft!

Uma carta aberta pedindo que se assegure que máquinas inteligentes não sejam desenvolvidas para além de nosso controle tem sido assinada por um grande e crescente número de pessoas, incluindo algumas das figuras chaves no desenvolvimento da Inteligência Artificial.


O medo de nossa criação se voltar contra nós volta no tempo pelo menos até Frankenstein, e filmes como O Exterminador do Futuro nos deu um outro nível de percepção para discutir o que aconteceria se robôs simplesmente parassem de cumprir ordens. Apesar de computadores nos ganharem em xadrez e carros que se auto-dirigem aparecendo em nossas estradas, nós podemos estar perto do momento de discutir estas questões.

Em Dezembro passado, ninguém menos que Stephen Hawking iniciou um novo debate neste tópico. Para alguém cuja capacidade de falar está ligada diretamente a avançada tecnologia dos computadores, seus pensamentos tendem a chamar atenção.

A carta começou a ser escrita pela Future of Life Institute (Instituto Futuro da Vida), uma organização sem fins lucrativos que se descreve "trabalhando para minimizar riscos perante a humanidade". A carta diz:

"Como as potencialidades nestas e outras áreas ultrapassam as barreiras da pesquisa laboratorial para tecnologias economicamente viáveis, um círculo vicioso tem inicio através do qual mesmo pequenos avanços tecnológicos valem uma grande soma em dinheiro, incentivando maiores investimentos em pesquisas. Existe hoje o consenso de que as pesquisas em IA aumentam progressivamente, e que seus impactos na sociedade são prováveis de se tornarem mais presentes. Os potencias benefícios são imensos, já que tudo o que a civilização tem a oferecer é o produto da inteligência humana; nós não podemos prever o que podemos alcançar quando esta inteligência é impulsionada pelas ferramentas que a IA podem fornecer, mas a erradicação das doenças e da miséria não são impossíveis de se imaginar. Por causa do grande potencial da IA, é importante saber como colher seus benefícios enquanto se evita possíveis perigos ou imprevistos."

Os autores ainda dizem que "nossos sistemas auto-geridos devem fazer o que mandamos eles fazerem" e ainda acrescentam prioridades de pesquisas que eles acreditam "maximizar os benefícios da IA para a sociedade". 

Qualquer um pode assinar esta carta e enquanto se escrevia esta matéria pouco mais de mil pessoas a assinaram. Enquanto muitos não indicam nenhuma afiliação, nomes como Elon Musk e o próprio Hawking são facilmente reconhecidos. Muitos dos outros nomes na lista são pesquisadores de ponta em Tecnologia da Informação ou Filosofia, incluindo o time por trás do super computador Watson da IBM.

Tanto peso intelectual e financeiro pode fazer com que as propostas apresentadas sejam levadas em consideração no desenvolvimento de novas tecnologias nas áreas descritas. Musk disse que ele investe em companhias de IA para ficar por dentro de suas descobertas. Ele se preocupa que por mais que a maioria dos pesquisadores se comportem de modo responsável, a falta de regulações internas empresariais, uma nação ou uma grande corporação não adote os princípios discutidos, podem produzir máquinas que se repliquem e cujas prioridades sejam bem diferentes das humanas e quando indústrias se estabelecerem, poderiam se tornar resistentes ao controle.