A vida digital está aumentando as capacidades humanas e perturbando as atividades humanas de longa data. Os sistemas de código se espalharam por mais da metade dos habitantes do mundo em informação e conectividade ambiental, oferecendo oportunidades antes inimagináveis e ameaças sem precedentes. Como a inteligência artificial (IA) orientada por algoritmos emergentes continua a se espalhar, as pessoas estarão melhor do que estão hoje?
Alguns 979 pioneiros tecnológicos, inovadores, desenvolvedores, líderes empresariais e políticos, pesquisadores e ativistas responderam a esta pergunta em uma pesquisa de especialistas realizada no verão de 2018.
Os especialistas previram que a inteligência artificial em rede ampliará a eficácia humana, mas também ameaçará a autonomia humana, a agência e as capacidades. Eles falaram das amplas possibilidades; que os computadores podem corresponder ou mesmo exceder a inteligência humana e as capacidades em tarefas como a tomada de decisões complexas, raciocínio e aprendizagem, análise sofisticada e reconhecimento de padrões, acuidade visual, reconhecimento da fala e tradução de idiomas. Eles disseram que sistemas “inteligentes” em comunidades, em veículos, em edifícios e utilidades, em fazendas e em processos de negócios pouparão tempo, dinheiro e vidas e oferecerão oportunidades para os indivíduos desfrutarem de um futuro mais personalizado.
Muitos focaram suas observações otimistas nos cuidados de saúde e nas muitas aplicações possíveis da IA no diagnóstico e tratamento de pacientes ou na ajuda aos idosos a viverem vidas mais completas e saudáveis. Eles também ficaram entusiasmados com o papel da IA em contribuir para amplos programas de saúde pública construídos em torno de grandes quantidades de dados que podem ser capturados nos próximos anos sobre tudo, desde genomas pessoais até nutrição. Além disso, vários desses especialistas previam que a IA iria incentivar mudanças há muito esperadas nos sistemas de educação formal e informal.
Yet, a maioria dos especialistas, independentemente de serem otimistas ou não, expressaram preocupações sobre o impacto a longo prazo dessas novas ferramentas sobre os elementos essenciais do ser humano. A todos os entrevistados nesta pesquisa não científica foi pedido que explicassem por que eles achavam que a IA deixaria as pessoas em melhor situação ou não. Muitos compartilharam profundas preocupações, e muitos também sugeriram caminhos para soluções. Os principais temas que soaram sobre ameaças e remédios estão delineados na tabela em anexo.
AI e o futuro dos humanos: Especialistas expressam preocupações e sugerem soluções
| Mayhem: Autonomia de armas, crimes cibernéticos e informações armadas |
Alguns prevêem uma maior erosão das estruturas sociopolíticas tradicionais e a possibilidade de grande perda de vidas devido ao crescimento acelerado das aplicações militares autônomas e o uso de informações armadas, mentiras e propaganda para desestabilizar perigosamente os grupos humanos. Alguns também temem o alcance dos cibercriminosos nos sistemas econômicos. | |
CENTRO DE INVESTIGAÇÃO DE PESQUISA E UNIVERSIDADE DE ELON IMAGINAR O CENTRO INTERNET
Especificamente, foi pedido aos participantes que considerassem o seguinte:
“Por favor, pensem em antecipação ao ano 2030. Os analistas esperam que as pessoas se tornem ainda mais dependentes da inteligência artificial (IA) em sistemas digitais complexos. Alguns dizem que continuaremos no arco histórico de aumentar nossas vidas com resultados principalmente positivos à medida que implementarmos amplamente essas ferramentas em rede. Alguns dizem que nossa crescente dependência dessas IA e sistemas relacionados provavelmente levará a dificuldades generalizadas.
Nossa pergunta: Até 2030, você acha que é mais provável que o avanço da IA e dos sistemas tecnológicos relacionados aumente as capacidades humanas e os capacite? Ou seja, na maioria das vezes, a maioria das pessoas estará melhor do que está hoje? Ou é muito provável que o avanço da IA e dos sistemas tecnológicos relacionados diminuirá a autonomia e a agência humana a tal ponto que a maioria das pessoas não estará melhor do que está hoje?”
Todos, e apesar das desvantagens que temem, 63% dos entrevistados nesta pesquisa disseram ter esperança de que a maioria dos indivíduos estará melhor em 2030, e 37% disseram que as pessoas não estarão em melhor situação.
Um número dos líderes de pensamento que participaram desta angariação disse que a dependência crescente dos humanos em relação aos sistemas tecnológicos só irá bem se for dada muita atenção à forma como estas ferramentas, plataformas e redes são projetadas, distribuídas e atualizadas. Algumas das respostas mais poderosas e abrangentes incluem aquelas de:
Sonia Katyal, co-diretora do Berkeley Center for Law and Technology e membro do primeiro Conselho de Conselheiros da Economia Digital do Departamento de Comércio dos EUA, previu: “Em 2030, o maior conjunto de questões envolverá como as percepções da IA e sua aplicação influenciarão a trajetória dos direitos civis no futuro. Perguntas sobre privacidade, discurso, direito de reunião e construção tecnológica da personalidade ressurgirão neste novo contexto da IA, colocando em questão nossas crenças mais profundas sobre igualdade e oportunidade para todos. Quem se beneficiará e quem ficará em desvantagem neste novo mundo depende de quão amplamente analisamos estas questões hoje, para o futuro”
Precisamos trabalhar agressivamente para garantir que a tecnologia corresponda aos nossos valores.Erik Brynjolfsson
Erik Brynjolfsson, diretor da Iniciativa MIT sobre Economia Digital e autor de “Machine, Platform, Crowd: Harnessing Our Digital Future”, disse, “AI e tecnologias relacionadas já alcançaram desempenho sobre-humano em muitas áreas, e há pouca dúvida de que suas capacidades irão melhorar, provavelmente muito significativamente, até 2030”. … Acho mais provável do que não que usemos esse poder para fazer do mundo um lugar melhor. Por exemplo, podemos praticamente eliminar a pobreza global, reduzir massivamente as doenças e proporcionar uma melhor educação a quase todos no planeta. Dito isto, a IA e o ML também podem ser usados para concentrar cada vez mais riqueza e poder, deixando muitas pessoas para trás, e para criar armas ainda mais horripilantes. Nenhum dos resultados é inevitável, portanto a pergunta certa não é “O que vai acontecer?” mas “O que vamos escolher fazer? Precisamos trabalhar de forma agressiva para garantir que a tecnologia corresponda aos nossos valores. Isso pode e deve ser feito em todos os níveis, do governo, às empresas, ao meio acadêmico e às escolhas individuais”
Bryan Johnson, fundador e CEO da Kernel, líder em desenvolvimento de interfaces neurais avançadas, e da OS Fund, uma empresa de capital de risco, disse: “Acredito firmemente que a resposta depende de se podemos mudar nossos sistemas econômicos para priorizar a melhoria humana radical e manter a tendência para a irrelevância humana diante da IA. Não me refiro apenas a empregos; refiro-me à verdadeira irrelevância existencial, que é o resultado final de não priorizar o bem-estar humano e a cognição”
Marina Gorbis, diretora executiva do Instituto para o Futuro, disse: “Sem mudanças significativas em nossa economia política e regimes de governança de dados é provável que criemos maiores desigualdades econômicas, mais vigilância e mais interações programadas e não centradas no ser humano. Toda vez que programamos nossos ambientes, acabamos programando a nós mesmos e nossas interações”. Os seres humanos têm de se tornar mais padronizados, removendo serendipidade e ambiguidade das nossas interacções. E essa ambiguidade e complexidade é a essência do ser humano”
Judith Donath, autor de “The Social Machine, Designs for Living Online” e docente do Berkman Klein Center for Internet da Universidade de Harvard & Society, comentou, “Até 2030, a maioria das situações sociais será facilitada por bots – programas de visão inteligente que interagem connosco de formas semelhantes às humanas. Em casa, os pais vão contratar bots habilidosos para ajudar as crianças com os deveres de casa e catalisar as conversas no jantar. No trabalho, os bots farão reuniões. Um confidente bot será considerado essencial para o bem-estar psicológico, e cada vez mais recorremos a tais companheiros para obter conselhos que vão desde o que vestir até com quem casar. Nós humanos nos preocupamos profundamente com a forma como os outros nos vêem – e os outros, cuja aprovação buscamos, serão cada vez mais artificiais. Até lá, a diferença entre humanos e robôs já terá se esbatido consideravelmente. Através da tela e da projeção, a voz, a aparência e os comportamentos dos bots serão indistinguíveis dos dos humanos, e até mesmo os robôs físicos, embora obviamente não humanos, serão tão convincentemente sinceros que nossa impressão deles como seres pensantes, sentindo, em pé de igualdade ou superiores a nós mesmos, será inabalável. Acrescentando à ambiguidade, a nossa própria comunicação será fortemente aumentada: Os programas irão compor muitas das nossas mensagens e a nossa aparência online/AR será computacionalmente elaborada. (Discurso e comportamento humano bruto e sem ajuda parecerá embaraçosamente desajeitado, lento e pouco sofisticado). Ajudados pelo seu acesso a vastos trovões de dados sobre cada um de nós, os bots ultrapassarão de longe os humanos na sua capacidade de nos atrair e persuadir. Capazes de imitar emoções habilmente, eles nunca serão superados pelos sentimentos: Se eles desabafarem com raiva, será porque esse comportamento foi calculado para ser a forma mais eficaz de avançar quaisquer objectivos que eles tivessem “em mente”. Mas quais são esses objectivos? Companheiros artificialmente inteligentes cultivarão a impressão de que objetivos sociais similares aos nossos os motivam – a serem tidos em boa conta, seja como um amigo querido, um chefe admirado, etc. Mas a sua verdadeira colaboração será com os humanos e as instituições que os controlam. Tal como os seus antepassados de hoje, estes serão vendedores de bens que os empregam para estimular o consumo e políticos que os encarregam de influenciar as opiniões”
Andrew McLaughlin, director executivo do Centro de Pensamento Inovador da Universidade de Yale, anteriormente subdirector tecnológico dos Estados Unidos para o Presidente Barack Obama e líder global das políticas públicas para o Google, escreveu: “2030 não é longe no futuro. A minha sensação é que inovações como a internet e a IA em rede têm enormes benefícios a curto prazo, juntamente com negativos a longo prazo que podem levar décadas para serem reconhecidos. A IA conduzirá uma vasta gama de otimizações de eficiência, mas também permitirá discriminação oculta e penalização arbitrária de indivíduos em áreas como seguros, busca de emprego e avaliação de desempenho”
Michael M. Roberts, primeiro presidente e CEO da Internet Corporation for Assigned Names and Numbers (ICANN) e membro do Internet Hall of Fame, escreveu, “A gama de oportunidades para agentes inteligentes para aumentar a inteligência humana ainda é virtualmente ilimitada. A questão principal é que quanto mais conveniente for um agente, mais ele precisa saber sobre você – preferências, timing, capacidades, etc. – o que cria uma troca de mais ajuda requer mais intrusão. Esta não é uma questão a preto e branco – os tons de cinza e remédios associados serão discutidos infinitamente. O registo até à data é que a conveniência ultrapassa a privacidade. Eu suspeito que isso vai continuar”
danah boyd, um dos principais pesquisadores da Microsoft e fundador e presidente do Data & Society Research Institute, disse: “A IA é uma ferramenta que será usada por humanos para todos os tipos de propósitos, inclusive na busca pelo poder. Haverá abusos de poder que envolvem a IA, assim como haverá avanços na ciência e esforços humanitários que também envolvem a IA. Infelizmente, existem certas linhas de tendência que são susceptíveis de criar instabilidade massiva. Vejamos, por exemplo, as alterações climáticas e a migração climática. Isso desestabilizará ainda mais a Europa e os EUA, e eu espero que, em pânico, vejamos a IA ser usada de forma prejudicial à luz de outras crises geopolíticas”
Amy Webb, fundadora do Future Today Institute e professora de previsão estratégica na Universidade de Nova York, comentou, “As estruturas da rede de segurança social atualmente em vigor nos EUA e em muitos outros países ao redor do mundo não foram projetadas para a nossa transição para a IA. A transição através da IA vai durar os próximos 50 anos ou mais”. medida que avançamos nesta terceira era da computação, e à medida que cada indústria se torna mais profundamente entrincheirada com sistemas de IA, precisaremos de novos trabalhadores com conhecimentos híbridos que possam operar em empregos que nunca precisaram existir antes. Precisaremos de agricultores que saibam como trabalhar com grandes conjuntos de dados. Oncologistas treinados como robotocistas. Biólogos treinados como engenheiros elétricos. Não vamos precisar de preparar a nossa força de trabalho apenas uma vez, com algumas mudanças no currículo. Conforme a IA amadurece, precisaremos de uma força de trabalho responsiva, capaz de se adaptar a novos processos, sistemas e ferramentas a cada poucos anos. A necessidade dessas áreas surgirá mais rapidamente do que nossos departamentos de trabalho, escolas e universidades estão reconhecendo. É fácil olhar para trás na história através da lente do presente – e ignorar a agitação social causada pelo desemprego tecnológico generalizado. Temos de abordar uma verdade difícil que poucos estão dispostos a dizer em voz alta: A IA acabará por fazer com que um grande número de pessoas fiquem permanentemente desempregadas. Assim como gerações anteriores testemunharam mudanças radicais durante e após a Revolução Industrial, o ritmo acelerado da tecnologia provavelmente significará que os Baby Boomers e os membros mais antigos do Gen X – especialmente aqueles cujos empregos podem ser replicados por robôs – não serão capazes de se reciclar para outros tipos de trabalho sem um investimento significativo de tempo e esforço.”
Barry Chudakov, fundador e diretor da Sertain Research, comentou: “Até 2030 a colaboração homem-máquina/AI será uma ferramenta necessária para gerir e contrariar os efeitos de múltiplas acelerações simultâneas: avanço tecnológico amplo, globalização, mudanças climáticas e migrações globais consequentes. No passado, as sociedades humanas geriram a mudança através do instinto e da intuição, mas como disse Eric Teller, CEO do Google X, “as nossas estruturas sociais não estão a conseguir acompanhar o ritmo da mudança”. Para acompanhar essa mudança e para gerir uma lista crescente de ‘problemas perversos’ até 2030, a IA – ou usando a frase de Joi Ito, inteligência ampliada – valorizará e reavaliará praticamente todas as áreas do comportamento e interação humana. A IA e as tecnologias avançadas mudarão nossa estrutura de resposta e nossos prazos (o que, por sua vez, muda nosso senso de tempo). Onde uma vez a interação social aconteceu em lugares – trabalho, escola, igreja, ambientes familiares – as interações sociais acontecerão cada vez mais em tempo contínuo e simultâneo. Se tivermos sorte, seguiremos os 23 Princípios da IA de Asilomar delineados pelo Instituto do Futuro da Vida e trabalharemos para “não inteligência indireta, mas inteligência benéfica”. Semelhante à dissuasão nuclear decorrente da destruição mutuamente assegurada, a IA e sistemas tecnológicos relacionados constituem uma força para um renascimento moral. Devemos abraçar essa renascença moral, ou enfrentaremos enigmas morais que podem levar à morte humana. … Minha maior esperança para a colaboração homem-máquina/IA constitui um renascimento moral e ético – nós adotamos uma mentalidade de tiro na lua e fechamos os braços para nos prepararmos para as acelerações que nos chegam. Meu maior medo é que adotemos a lógica de nossas tecnologias emergentes – resposta instantânea, isolamento atrás de telas, comparação interminável de auto-estima, falsa auto-apresentação – sem pensar ou responder com inteligência”
John C. Havens, diretor executivo da Iniciativa Global IEEE sobre Ética de Sistemas Autônomos e Inteligentes e do Council on Extended Intelligence, escreveu: “Agora, em 2018, a maioria das pessoas ao redor do mundo não pode acessar seus dados, então qualquer discussão de ‘aumento de IA humana’ ignora o contexto crítico de quem realmente controla a informação e a identidade das pessoas. Em breve será extremamente difícil identificar qualquer sistema autônomo ou inteligente cujos algoritmos não interagem com dados humanos de uma forma ou de outra”
Em jogo está nada menos que o tipo de sociedade em que queremos viver e como experimentamos a nossa humanidade.Batya Friedman
Batya Friedman, um professor de interação humano-computador da Escola de Informação da Universidade de Washington, escreveu: “Nossas capacidades científicas e tecnológicas têm e continuarão a superar em muito as nossas capacidades morais – isto é, nossa capacidade de usar sábia e humanamente o conhecimento e as ferramentas que desenvolvemos. … A guerra automatizada – quando armas autônomas matam seres humanos sem envolvimento humano – pode levar a uma falta de responsabilidade por tirar a vida do inimigo ou mesmo o conhecimento de que a vida de um inimigo foi tirada. Em jogo está nada menos que o tipo de sociedade em que queremos viver e como experimentamos a nossa humanidade”
Greg Shannon, cientista chefe da Divisão CERT da Universidade Carnegie Mellon, disse: “Melhor/pior aparecerá 4:1 com a relação de longo prazo 2:1. A IA se sairá bem para trabalhos repetitivos onde ‘fechar’ será bom o suficiente e os humanos não gostarão do trabalho. … A vida será definitivamente melhor à medida que a IA prolonga a vida, desde aplicações de saúde que nos ‘empurram’ inteligentemente para a saúde, a avisos sobre eventos cardíacos/acidente vasculares cerebrais iminentes, a cuidados de saúde automatizados para os carentes (remotos) e para aqueles que precisam de cuidados prolongados (cuidados com idosos). Quanto à liberdade, os riscos são claros. A IA afeta a agência ao criar entidades com capacidades intelectuais significativas para monitorar, fazer cumprir e até punir indivíduos. Aqueles que sabem como usá-la terão imenso poder potencial sobre aqueles que não sabem ou não podem. A felicidade futura é realmente incerta. Alguns vão ceder sua agência à IA em jogos, trabalho e comunidade, muito parecido com a crise do opióide que rouba a agência hoje. Por outro lado, muitos serão libertados de tarefas/empregos mundanos e desengajados. Se elementos da felicidade da comunidade são parte das funções objetivas da IA, então a IA poderia catalisar uma explosão de felicidade”
Kostas Alexandridis, autor de “Exploring Complex Dynamics in Multi-agent-based Intelligent Systems”, previu, “Muitas de nossas decisões do dia-a-dia serão automatizadas com o mínimo de intervenção do usuário final. A autonomia e/ou independência será sacrificada e substituída pela conveniência. Novas gerações de cidadãos se tornarão cada vez mais dependentes de estruturas e processos de IA em rede. Há desafios que precisam ser enfrentados em termos de pensamento crítico e heterogeneidade. A interdependência em rede irá, mais provavelmente, aumentar nossa vulnerabilidade a ataques cibernéticos. Há também uma probabilidade real de que haverá divisões mais acentuadas entre os ‘haves’ e os ‘nots’ digitais, bem como entre as infra-estruturas digitais tecnologicamente dependentes. Finalmente, há a questão da nova ‘altura de comando’ da propriedade e controle da infra-estrutura da rede digital”
Oscar Gandy, professor emérito de comunicação da Universidade da Pensilvânia, respondeu: “Já nos deparamos com uma suposição não aceita quando nos é pedido que imaginemos a ‘colaboração entre homem e máquina’. A interação é um pouco diferente, mas ainda assim manchada pela concessão de uma forma de identidade – talvez até de personalidades – a máquinas que usaremos para fazer nosso caminho através de todo tipo de oportunidades e desafios. Os problemas que enfrentaremos no futuro são bastante semelhantes aos problemas que enfrentamos atualmente quando confiamos em ‘outros’ (incluindo sistemas tecnológicos, dispositivos e redes) para adquirir coisas que valorizamos e evitamos essas outras coisas (que podemos ou não estar cientes)”
James Scofield O’Rourke, professor de administração da Universidade de Notre Dame, disse: “A tecnologia tem sido, ao longo da história registrada, um conceito amplamente neutro. A questão do seu valor sempre esteve dependente da sua aplicação”. Para que propósito a IA e outros avanços tecnológicos serão usados? Tudo, da pólvora aos motores de combustão interna até a fissão nuclear, tem sido aplicado tanto de forma útil quanto destrutiva. Assumindo que podemos conter ou controlar a IA (e não o contrário), a resposta para se estaremos melhor depende inteiramente de nós (ou de nossa progênie). A culpa, caro Brutus, não está em nossas estrelas, mas em nós mesmos, que somos subalternos””
Simon Biggs, um professor de artes interdisciplinares da Universidade de Edimburgo, disse: “A IA funcionará para aumentar as capacidades humanas. O problema não é com a IA, mas com os humanos. Como espécie, somos agressivos, competitivos e preguiçosos. Também somos empáticos, com espírito comunitário e (às vezes) auto-sacrificial. Nós temos muitos outros atributos. Todos eles serão amplificados. Dado o precedente histórico, teríamos de assumir que serão as nossas piores qualidades que serão ampliadas. Minha expectativa é que em 2030 a IA estará em uso rotineiro para combater guerras e matar pessoas, muito mais efetivamente do que podemos matar atualmente. Como sociedades, seremos menos afetados por isso do que somos atualmente, pois não estaremos lutando e matando a nós mesmos. Nossa capacidade de modificar nosso comportamento, sujeita à empatia e a um quadro ético associado, será reduzida pela desassociação entre nossa agência e o ato de matar. Não podemos esperar que nossos sistemas de IA sejam éticos em nosso nome – eles não serão, pois serão projetados para matar de forma eficiente, não pensativa. A minha outra preocupação principal é a vigilância e o controlo. O advento do Sistema de Crédito Social da China (SCS) é um indicador do que ele provavelmente virá. Nós existiremos dentro de um SCS, pois a IA constrói instâncias híbridas de nós mesmos que podem ou não se assemelhar a quem somos. Mas os nossos direitos e possibilidades como indivíduos serão determinados pela SCS. Este é o pesadelo orwelliano realizado”
Mark Surman, diretor executivo da Fundação Mozilla, respondeu, “A IA continuará a concentrar poder e riqueza nas mãos de alguns grandes monopólios baseados nos Estados Unidos e na China. A maioria das pessoas – e partes do mundo – estarão em pior situação”
William Uricchio, estudioso de mídia e professor de estudos comparativos de mídia no MIT, comentou, “A IA e suas aplicações relacionadas enfrentam três problemas: desenvolvimento na velocidade da Lei de Moore, desenvolvimento nas mãos de uma elite tecnológica e econômica, e desenvolvimento sem o benefício de um público informado ou engajado. O público é reduzido a um coletivo de consumidores aguardando a próxima tecnologia”. De quem prevalecerá a noção de “progresso”? Temos amplas evidências de que a IA está sendo usada para impulsionar os lucros, independentemente das implicações para os valores de longo prazo; para melhorar o controle governamental e até mesmo pontuar o “crédito social” dos cidadãos sem a contribuição dos próprios cidadãos. Como as tecnologias anteriores, a IA é agnóstica. A sua implantação está nas mãos da sociedade. Mas, na ausência de um público alfabetizado, a decisão de como melhor implantar a IA cairá em interesses especiais. Isso significará uma distribuição equitativa, a melhoria da injustiça social e da IA no serviço público? Porque a resposta a esta pergunta é social e não tecnológica, eu sou pessimista. O conserto? Precisamos desenvolver um público alfabetizado sobre IA, o que significa atenção focada no setor educacional e na mídia voltada para o público. Precisamos assegurar a diversidade no desenvolvimento das tecnologias de IA. E até que o público, seus representantes eleitos e seus regimes legais e regulatórios possam se atualizar com esses desenvolvimentos rápidos, precisamos exercer cautela e supervisão no desenvolvimento da IA”
O restante deste relatório é dividido em três seções que extraem de centenas de observações esperançosas e críticas de outros respondentes: 1) preocupações sobre a evolução da IA humana, 2) sugestões de soluções para lidar com o impacto da IA, e 3) expectativas de como será a vida em 2030, incluindo as perspectivas positivas dos entrevistados sobre a qualidade de vida e o futuro do trabalho, cuidados de saúde e educação. Algumas respostas são levemente editadas por estilo.
