Famosos pedem proibição de desenvolvimento de IA superinteligente
A lista dos que assinaram é extensa e diversificada e conta com mais de 800 nomes; manifesto de 30 palavras é direcionado a gigantes tecnológicos
Um manifesto idealizado pela organização Future of Life Institute pede a proibição do desenvolvimento de inteligência artificial superinteligente. O abaixo-assinado exige que a ferramenta não seja levada ao público “antes que haja um amplo consenso científico de que isso será feito de forma segura e controlada, e uma forte adesão pública”.
O documento foi assinado por diversas figuras públicas, como o Duque e a Duquesa de Sussex – Príncipe Harry e Meghan Markle – o co-fundador da Apple, Steve Wozniak, o bilionário britânico Richard Branson, o ex-presidente do Estado-Maior Conjunto dos EUA, Mike Mullen e Susan Rice, ex-conselheira de segurança nacional de Obama.
Contudo, o que surpreendeu a todos foi a assinatura de Steve Bannon e Glenn Beck, duas personalidades que representam a direita americana. Bannon foi assessor e estrategista-chefe da Casa Branca na primeira gestão de Donald Trump como presidente dos Estados Unidos.
Conteúdo do manifesto
Ao contrário de outros documentos que apresentam argumentos embasados e com análises críticas, o manifesto escrito pelo Future of Life Institute possui somente 30 palavras.
“Apelamos a uma proibição do desenvolvimento da superinteligência, que não será levantada antes que haja um amplo consenso científico de que isso será feito de forma segura e controlada, e uma forte adesão pública”
Em uma espécie de prefácio, os idealizadores do documento alegam que “muitas empresas líderes de IA têm o objetivo declarado de construir superinteligência na próxima década que possa superar significativamente todos os seres humanos em essencialmente todas as tarefas cognitivas”. Porém, não apresentam nenhuma prova ou indício que ateste o registro.
Ver essa foto no Instagram
Parte dos nomes de quem assinou o manifesto (Foto: reprodução/Instagram/@futureoflifeinstitute)
Quem assinou
A carta é direcionada a grandes conglomerados da tecnologia como Google, OpenAI e Meta Platforms. A lista dos que assinaram é extensa e diversificada e conta com mais de 800 nomes.
Como comentário pessoal, o Príncipe Harry acrescentou que o desenvolvimento da inteligência artificial deve estar voltado para o benefício da humanidade, e não para substituí-la. Segundo ele, o verdadeiro indicador de progresso não está na velocidade das inovações, mas na capacidade de conduzi-las com sabedoria — uma oportunidade que não se repete.
Stuart Russell, pioneiro da inteligência artificial e professor de ciência da computação na Universidade da Califórnia, Berkeley, também assinou o manifesto. Ele ressaltou que “É simplesmente uma proposta para exigir medidas de segurança adequadas para uma tecnologia que tem uma chance significativa de causar a extinção humana.”
Yoshua Bengio e Geoffrey Hinton, co-vencedores do Turing Award, o principal prêmio da ciência da computação, uniram seus nomes à lista. Ambos, pioneiros em inteligência artificial, com Stuart Russell.
Personalidades da política também se uniram ao manifesto. A ex-presidente irlandesa Mary Robinson e vários parlamentares britânicos e europeus e ex-membros do Congresso dos Estados Unidos assinaram.
Dos nomes que assinaram a petição, um deles chamou a atenção. Steve Bannon, ex-assessor e ex-estrategista-chefe da Casa Branca no primeiro mandato de Donald Trump.
Ver essa foto no Instagram
Anthony Aguirre, diretor-executivo do Future of Life Institute (Foto: reprodução/Instagram/@futureoflifeinstitute)
O instituto
O Future of Life Institute é uma organização se fins lucrativos cujo diretor-executivo é Anthony Aguirre, físico da Universidade da Califórnia. O grupo trabalha com riscos de larga escala, como armas nucleares, biotecnologia e inteligência artificial. Atualmente, seu maior doador é Vitalik Buterin, co-fundador da blockchain Ethereum.
Aguirre quer forçar uma conversa que inclua não apenas grandes empresas de inteligência artificial, mas também políticos nos Estados Unidos, na China e em outros lugares. Ele alega que as visões pró-indústria do governo Trump sobre inteligência artificial precisam de equilíbrio.
