Humanidade não conseguirá controlar computadores superinteligentes

Com informações do MPIB

Há tempos se discute os perigos que a Inteligência Artificial trará à humanidade.
[Imagem: Manuel Alfonseca et al. - 10.1613/jair.1.12202]

Inteligência que supera os criadores

Suponha que alguém programe um sistema de inteligência artificial (IA) com uma inteligência superior à dos humanos, para que ele possa aprender de forma independente.

Conectada à internet, a IA poderia ter acesso a todos os dados da humanidade e então tentaria otimizar tudo; ela poderia substituir todos os programas existentes e assumir o controle de todas as máquinas online em todo o mundo, para que tudo funcionasse da forma mais eficiente possível.

Isso produziria uma utopia ou uma distopia? A IA encontraria a cura para o câncer, promoveria a paz mundial e evitaria um desastre climático? Ou ela iria concluir que a forma mais eficiente de resolver todos os problemas seria destruir a humanidade?

Nosso mundo é fascinado por máquinas e computadores que podem controlar carros, compor sinfonias ou derrotar pessoas no xadrez, Go e outros desafios, mas os cientistas da computação e os filósofos têm-se perguntado se sequer seríamos capazes de controlar uma IA superinteligente, para garantir que ela não representaria uma ameaça à humanidade.

"Uma máquina [computador] superinteligente que controla o mundo parece ficção científica. Mas já existem máquinas que realizam certas tarefas importantes de forma independente, sem que os programadores entendam totalmente como elas aprenderam a fazer o que fazem. Portanto, surge a questão de saber se isso poderia em algum momento se tornar incontrolável e perigoso para humanidade," justifica o professor Manuel Cebrian, do Instituto Max Planck para o Desenvolvimento Humano, na Alemanha.

E as conclusões dos estudiosos nem sempre são animadoras: A equipe internacional liderada por Cebrian fez os melhores cálculos teóricos que o saber científico atual permite para demonstrar que seria fundamentalmente impossível para a humanidade controlar uma IA superinteligente.

Superinteligência artificial

Os cientistas exploraram duas ideias diferentes de como uma superinteligência artificial poderia ser controlada.

Por um lado, as capacidades da IA superinteligente poderiam ser especificamente limitadas, por exemplo, isolando-a da internet e de todos os outros dispositivos técnicos, para que ela não pudesse ter contato com o mundo exterior. Mas isso tornaria a "IA superinteligente" significativamente menos poderosa, menos capaz de responder às missões e às questões para as quais a humanidade a projetou.

Sem essa opção, a IA poderia ser motivada desde o início a perseguir somente objetivos que atendam aos melhores interesses da humanidade, por exemplo, programando princípios éticos nela. No entanto, os pesquisadores também demonstraram que essas e outras ideias contemporâneas e históricas para controlar a IA superinteligente têm seus limites.

Máquinas que controlam máquinas estão entre os riscos existenciais para a humanidade.
[Imagem: Iyad Rahwan]

Problema incomputável

A equipe então concebeu um algoritmo teórico de contenção, que garante que uma IA superinteligente não possa prejudicar as pessoas em nenhuma circunstância, simulando o comportamento da IA primeiro e então interrompendo-a se ela for considerada prejudicial.

Mas uma análise cuidadosa mostra que, em nosso paradigma atual de computação, esse algoritmo não pode ser construído.

"Se você dividir o problema em regras básicas da ciência da computação teórica, verá que um algoritmo que comandaria uma IA para não destruir o mundo poderia inadvertidamente interromper suas próprias operações. Se isso acontecesse, você não saberia se o algoritmo de contenção ainda está analisando a ameaça, ou se ele parou para conter a IA prejudicial. Na verdade, isso torna o algoritmo de contenção inutilizável," disse Iyad Rahwan, membro da equipe.

Com base nesses cálculos, o problema de contenção é incomputável, ou seja, nenhum algoritmo único pode encontrar uma solução para determinar se uma IA produziria danos ao mundo.

Além disso, os pesquisadores demonstraram que podemos nem saber quando as máquinas superinteligentes foram criadas, porque decidir se uma máquina apresenta inteligência superior aos humanos está no mesmo reino do problema de contenção: insolúvel.

Bibliografia:

Artigo: Superintelligence Cannot be Contained: Lessons from Computability Theory
Autores: Manuel Alfonseca, Manuel Cebrian, Antonio Fernandez Anta, Lorenzo Coviello, Andrés Abeliuk, Iyad Rahwan
Revista: JAIR - Journal of Artificial Intelligence Research
DOI: 10.1613/jair.1.12202

Os perigos que a Inteligência Artificial trará à humanidade

 Com informações da Agência Fapesp 

Inteligência do bem ou do mal

Hoje estamos publicando dois artigos com diferentes abordagens sobre a Inteligência Artificial: um otimista e entusiasmado, quase ufanista, e outro mais cauteloso, preocupado, quase pessimista. É comum que os apaixonados por tecnologia identifiquem-se quase naturalmente com o primeiro enfoque, mas é importante não perder de vista as responsabilidades e os novos desafios que todos os progressos trazem. O ideal é que a abordagem responsável não iniba os sonhos da visão apaixonada e que o ideal de um futuro mais promissor não se esqueça de que, para deixarem de ser meras fantasias, os sonhos precisam firmar resolutamente os pés no solo da realidade.

---

"Fico hesitante em dizer que devemos acelerar nosso desenvolvimento tecnológico," ponderou o professor Frank Allgöwer.
[Imagem: Cortesia Stuttgarter-Zeitung/Reiner Pfisterer]

Perdendo o controle da tecnologia

De veículos autônomos a fábricas e cidades inteligentes, a humanidade está construindo sistemas computacionais dinâmicos cada vez mais complexos, que trabalham em rede com alto grau de automação e de autonomia.

O grande medo é que, nesse grande mundo interconectado que se avizinha, os humanos tornem-se meros usuários desses sistemas dinâmicos complexos, e não mais a força que os controla.

Para o professor Frank Allgöwer, da Universidade de Stuttgart, na Alemanha, somente com um grande esforço em pesquisa básica, particularmente na área de engenharia cibernética, será possível desenvolver mecanismos de controle para garantir que tudo funcione de maneira adequada - e, sobretudo, que nada saia do controle humano.

"Ainda não entendemos muito bem como esses sistemas funcionam, como interagem e se organizam, mas ainda assim os estamos construindo. Embora pense que os efeitos positivos devem superar os negativos, fico hesitante em dizer que devemos acelerar nosso desenvolvimento tecnológico. Creio que este seria o momento de fazer a pesquisa básica alcançar as inovações tecnológicas que estão surgindo para que possamos realmente entender o que está acontecendo", ponderou Allgöwer durante uma palestra em São Paulo, promovida pela Fapesp.

Engenharia cibernética

De acordo com o pesquisador alemão, a autonomia crescente e a estrutura em rede são as características-chave das inovações tecnológicas atuais. E a engenharia cibernética é a ciência básica que está no centro desse processo, possibilitando, por meio de métodos matemáticos e teoremas, prever o funcionamento desses sistemas complexos e influenciar seu comportamento.

"Controlar um sistema dinâmico - como por exemplo um carro autônomo - é uma tarefa difícil, nada trivial. Requer, portanto, uma boa base teórica. Mas esse não é o fim da linha. No futuro, haverá muitos carros autônomos e eles terão de se organizar e conversar entre si, de modo a otimizar o trânsito, poupar energia, tempo e evitar acidentes. Essa rede terá de ser operada por controladores cibernéticos, pois nenhum humano consegue reagir rápido o suficiente para gerir uma rede tão complexa e da qual muitas vidas dependem," exemplificou Allgöwer.

O sonho da inteligência artificial continua cada vez mais vivo, mas um número cada vez maior de especialistas teme uma revolução das máquinas.
[Imagem: Jared C. Benedict/MIT Media Lab]

Do mesmo modo, nesse futuro a geração de energia não será mais concentrada em grandes usinas, e sim distribuída em pequenas unidades individuais e até domésticas, formadas por geradores eólicos ou solares interconectados. Essas unidades terão de se organizar de modo a enviar energia onde há demanda, evitando falhas e interrupções no fornecimento.

Já nas fábricas, as linhas de montagem introduzidas na segunda revolução industrial estão dando lugar a estações de manufatura estruturadas em redes. "Na indústria 4.0, se o robô de uma determinada estação quebrar ou estiver sobrecarregado, outro assume sua função e, nesse sistema interconectado, é possível produzir mercadorias de forma mais barata e eficiente," disse.

Papel das ciências humanas

Para Allgöwer, a crescente autonomia dos sistemas dinâmicos é, em princípio, algo positivo, devendo beneficiar a economia, os meios de trabalho, aumentar a qualidade de vida e a eficiência no uso de recursos, tornando as atividades humanas mais sustentáveis.

Porém, pode haver perigos associados.

"Esses sistemas são tão complexos que os seres humanos não têm como acompanhar tudo o que está acontecendo. Os robôs terão todo o conhecimento sobre nós e vão influenciar tudo o que fazemos. Poderiam essas máquinas assumir o controle da sociedade?", indagou.

Para responder a questões como essa, segundo Allgöwer, além de pesquisas em engenharia cibernética também serão necessários estudos em áreas como filosofia e ciências sociais.

"É preciso que pesquisadores da área de humanas supervisionem o que os engenheiros estão construindo", recomendou ele.

Primeira usina elétrica com emissão negativa de dióxido de carbono é inaugurada na Islândia

Pelo site Engenharia É

Cogita-se muito sobre a redução da emissão de CO2, bem como a sua remoção. Uma usina elétrica localizada na Islândia tem por objetivo cumprir isso: trata-se da primeira com emissão negativa de gases de efeito estufa.

Por “emissão negativa”, entende-se que a usina remove mais dióxido de carbono da atmosfera do que a mesma emite. A usina geotérmica que estamos nos referindo possui um módulo que coleta o CO2 diretamente do ar por meio de filtros, liga as partículas à água e as envia para o subsolo, que por sua vez se mineralizam, tornando-se pedras inofensivas.

Veja abaixo:

A usina geotérmica é basicamente uma árvore, só que milhares de vezes mais poderosa no objetivo de sugar o dióxido de carbono da atmosfera. E com a vantagem de gerar energia elétrica com a ajuda do calor natural das atividades vulcânicas daquela região.

É possível coletar uma tonelada de dióxido de carbono por cerca US$ 100, o que infelizmente ainda inviabiliza a instalação de mais usinas como essa pelo mundo. No futuro, a expectativa é que esse valor caia para US$ 50. Ainda assim, se precisarmos capturar 10 bilhões de toneladas de CO2 em 2050, gastaríamos cerca de US$ 500 bilhões por ano, como diz a nota do Quartz. Pra quem vai a conta?

Além do mais, a usina islandesa ainda é um projeto em fase experimental: por enquanto, ela só consegue capturar 50 toneladas de CO2 por ano, o que ainda é insuficiente para recuperar o estrago que já foi feito. Como a tecnologia é modular, é possível escalá-la para coletar mais dióxido de carbono em uma usina maior.

Pra se ter ideia, o custo para coletar uma tonelada de CO2 em 2011 era de várias centenas de dólares e caiu drasticamente em pouco tempo, tornando-se mais “viável” — a prova disso é o funcionamento dessa usina.

Esperamos ver a tecnologia sendo mais adotada em um futuro não muito distante, não é mesmo?

Um microscópio científico que você mesmo pode construir

 Redação do Site Inovação Tecnológica 

Fácil de construir e barato, o microscópio faça-você-mesmo rivaliza em resolução com aparelhos científicos.
[Imagem: Benedict Diederich et al. - 10.1038/s41467-020-19447-9]

Microscópio de código aberto

Pesquisadores do Instituto Leibniz de Tecnologia Fotônica e da Universidade Jena, na Alemanha, desenvolveram uma plataforma óptica que serve como caixa de ferramentas para construir microscópios de alta resolução, comparáveis aos microscópios comerciais que custam até mil vezes mais.

O microscópio modular foi batizado de UC2, um termo cibernético para a expressão em inglês "Você também vê" (You See Too).

Com componentes feitos por impressora 3D e a câmera de um celular, o sistema pode ser combinado da maneira que a pergunta de pesquisa exigir - desde a observação de longo prazo de organismos vivos na incubadora até uma caixa de ferramentas para aulas de óptica.

O bloco de construção básico do sistema UC2 é um cubo simples com uma aresta de 5 centímetros, que pode receber uma variedade de componentes, como lentes, LEDs ou câmeras.

Vários desses cubos são conectados a uma placa magnética comum. Organizados de forma inteligente, os módulos resultam em um poderoso instrumento óptico - trata-se de um conceito óptico segundo o qual os planos focais das lentes adjacentes coincidem, o que é a base para a maioria das configurações ópticas complexas, como os microscópios modernos.

O projeto permite adaptações e melhorias para atender a cada necessidade.
[Imagem: UC2]

Uso pessoal e profissional

Embora seja voltado para o público faça você mesmo e para estudantes em geral, a equipe desenvolveu o sistema tendo em vista também aplicações sérias, em pesquisas científicas e médicas, por exemplo.

"Microscópios comerciais que podem ser usados para examinar patógenos por um longo período de tempo custam centenas ou milhares de vezes mais do que nossa configuração UC2," disse o pesquisador Benedict Diederich. "Você dificilmente pode colocá-los em um laboratório contaminado, do qual não será possível removê-los porque não podem ser limpos facilmente".

Já o microscópio UC2 é feito de plástico, podendo ser facilmente queimado ou reciclado após seu uso em um laboratório de segurança biológica.

A equipe disponibilizou os planos de construção e o software no repositório online de acesso gratuito GitHub, para que a comunidade de código aberto em todo o mundo possa acessar, construir, reconstruir, modificar e expandir o sistema. O endereço é http://github.com/bionanoimaging/UC2-GIT.

Bibliografia:

Artigo: A versatile and customizable low-cost 3D-printed open standard for microscopic imaging
Autores: Benedict Diederich, René Lachmann, Swen Carlstedt, Barbora Marsikova, Haoran Wang, Xavier Uwurukundo, Alexander S. Mosig, Rainer Heintzmann
Revista: Nature Communications
Vol.: 11, Article number: 5979
DOI: 10.1038/s41467-020-19447-9

Como cientista da Nasa de Uganda, Catherine Nakalembe, usa satélites para impulsionar a agricultura

Pela BBC - Brasil

Legenda da foto,

Catherine Nakalembe ganhou o prêmio Africa Food Prize deste ano por trabalho pioneiro usando imagens de satélite

Como uma entusiasta jogadora de badminton, a ugandense Catherine Nakalembe queria estudar ciências do esporte na universidade, mas o fracasso em obter as notas exigidas para um subsídio do governo a colocou no caminho que a levou à Nasa. E ainda ganhou um relevante prêmio de pesquisa em alimentos, escreve Patience Atuhaire da BBC.

Quando Nakalembe tentou explicar a um fazendeiro de Karamojong, no nordeste de Uganda, como o trabalho dela usando imagens tiradas de satélites centenas de quilômetros acima da Terra se relaciona com seu pequeno terreno, ele riu.

Embora ela use as imagens em alta resolução em seu trabalho pioneiro para ajudar os agricultores e os governos a tomarem melhores decisões, ela ainda precisa trabalhar para aprimorar os dados.

Em outras palavras, do espaço você não pode dizer a diferença entre grama, milho e sorgo.

"Por meio de um tradutor, disse ao fazendeiro que quando olho os dados, vejo apenas o verde. Eu imprimi uma foto, que mostrei a ele. Ele então foi capaz de entender que... é preciso visitar a fazenda fisicamente para fazer essas distinções", disse a pesquisadora à BBC.

CRÉDITO,CATHERINE NAKALEMBE

Legenda da foto,

Dr Nakalembe talks to farmers about how they can use an app to send in information about their crops

Ela é uma mulher de fala mansa e um comportamento radiante. É difícil imaginá-la caminhando por horas no calor do semi-árido do Karamoj, procurando descobrir as distinções granulares que só podem ser detectadas no solo.

Isso ocorre especialmente em importantes regiões agrícolas dominadas por pequenos proprietários que podem plantar safras diferentes em épocas diferentes do ano, levando a um grande número de variedades. Essa complexidade torna quase impossível o monitoramento para a maioria das autoridades.

CRÉDITO,GETTY IMAGES

Legenda da foto,

O trabalho de Nakalembe ajudou pessoas na semi-árida Karamajong

Nakalembe, professora assistente do departamento de ciências geográficas da Universidade de Maryland, nos Estados Unidos, usa os dados de satélite para estudar a agricultura e os padrões climáticos.

Essas informações são combinadas com dados coletados in loco sobre as safras e suas condições para construir um modelo que aprende a reconhecer padrões para ajudar a fazer as análises.

Foi isso que deu a ela o Africa Food Prize (Prêmio Alimentos da África 2020, em tradução livre), ao lado de André Bationo de Burkina Faso, pelo trabalho dele com fertilizantes.

A cientista, que também chefia a seção africana do programa de alimentação e agricultura da Nasa, explica: "Do ar, dá para ver qual área é construída, se está limpa, se tem vegetação ou água.

"Também podemos dizer o que é terra cultivável e o que é floresta. Como temos um registro de 30 anos de como se parece uma terra cultivável, podemos dizer o que é saudável, o que não é ou qual parte melhorou."

'Uma corda de resgate para famílias rurais'

Usando informações coletadas no local por pesquisadores ou enviadas pelos próprios agricultores, ela pode distinguir entre os tipos de cultura e criar um mapa que mostra se as fazendas estão prosperando em comparação com a mesma cultura em outros lugares da região.

O modelo foi usado em lugares como os Estados Unidos, onde a agricultura mecanizada ocorre em escala industrial. As informações podem ajudar a informar as decisões sobre quando irrigar ou quanto fertilizante deve ser usado.

Mas mesmo um agricultor em Uganda ou em qualquer outro lugar do continente, usando apenas uma enxada e trabalhando por longas horas em seu pequeno terreno, encontrará esta informação valiosa.

"O sensoriamento remoto permite monitorar grandes extensões de terra usando dados disponíveis gratuitamente.

"Você pode dar uma previsão. Se combinar as estimativas de satélite de chuva e temperatura, você pode dizer que vai chover nos próximos 10 dias e os agricultores devem preparar seus campos. Ou, se não houver chuva, eles não precisam desperdiçar suas sementes e podem esperar algumas semanas", diz o Nakalembe

CRÉDITO,CATHERINE NAKALEMBE

Legenda da foto,

Nakalembe trabalha com as autoridades locais para ajudar a melhorar as políticas agrícolas

Em grande parte do continente, onde as fazendas são frequentemente pequenas parcelas fragmentadas longe das fontes de informação, esses dados podem ser traduzidos em mensagens de texto no idioma local, programas de rádio ou repassados ​​por trabalhadores agrícolas.

Também é uma evidência de que os governos podem usar os dados para planejar uma resposta a desastres em caso de perda de safra ou inundações repentinas e salvar as comunidades da fome.

As primeiras pesquisas de Nakalembe permitiram que 84 mil pessoas em Karamoja evitassem os piores efeitos de um clima altamente variável e da falta de chuvas.

"Ela trabalhou conosco em 2016 para desenvolver ferramentas que preveem a incidência da seca", diz Stella Sengendo, que trabalha com risco de desastres no gabinete do primeiro-ministro.

"Usamos esses dados para estimar o número de famílias que provavelmente serão afetadas por fortes períodos de seca. Em seguida, desenvolvemos um programa que envia fundos às famílias, por meio do governo local.

"Os moradores fazem obras públicas e ganham dinheiro durante a estação seca. Eles economizam 30% e usam 70% para o consumo diário", explica Sengendo.

Os 5.500 xelins de Uganda (R$ 7,70) por dia são uma corda de resgate para as famílias em uma região que tem apenas uma temporada de colheita por ano. E cerca de 60% desses trabalhadores são mulheres, que, segundo estudos, sofrem os piores efeitos das mudanças climáticas.

Cientista ambiental por acidente

Criada na capital, Kampala, por uma mãe que gerencia um restaurante e um pai que é mecânico, Nakalembe nunca se imaginou trabalhando com satélites.

Ela jogava badminton com as irmãs e queria se formar em ciências do esporte, mas sem as notas exigidas para obter um diploma do governo, ela se voltou para a ciência ambiental na Makerere University.

Nunca tendo saído de Kampala, exceto para um evento familiar ocasional, ela se inscreveu para trabalhar na Autoridade de Vida Selvagem de Uganda para ganhar créditos para o curso dela.

"O mapeamento me atraiu. Fui para o Monte Elgon, no leste. Ainda tenho fotos do meu primeiro trabalho de campo porque foi realmente emocionante", diz ela, radiante.

A cientista da Nasa, que agora viaja pela África treinando departamentos do governo sobre como desenvolver programas de segurança alimentar, foi para a Universidade Johns Hopkins para um mestrado em geografia e engenharia ambienta

Ela diz: "Sempre tive a mesma afirmação pessoal: adquirir conhecimento e aplicá-lo em casa."

"O programa de PhD da Universidade de Maryland me permitiu entrar no sensoriamento remoto, mas o mais importante foi vir e trabalhar em Uganda e em todo o continente."

A pesquisadora pioneira também orienta jovens mulheres negras para encorajá-las a entrar nas ciências ambientais.

"Na diáspora, vou a reuniões e sou a única que tem esta aparência. Sinto-me solitária quando é um novo país ou espaço.

"Na África Oriental, encontro muitas pessoas com quem podemos compartilhar experiências e nossas lutas. Gostaria de ver mais mulheres negras neste grupo", disse Nakalembe, parecendo determinada em seu desejo.

CRÉDITO,AFRICA FOOD PRIZE

Legenda da foto,

Ganhar o prêmio foi um choque para Nakalembe

A notícia de que ela tinha ganhado o Africa Food Prize 2020 em setembro chegou a ela por meio de um telefonema inesperado. Ela não sabia que havia sido indicada e se perguntou por que seus colegas insistiram para que ela mantivesse o telefone perto.

Quando a chamada finalmente veio, ela foi convidada a esperar pelo ex-presidente nigeriano Olusegun Obasanjo, que mal deu os parabéns antes da chamada ser desligada.

"Foi como ir ao hospital com dor de cabeça e depois ouvir que você vai ter um filho.

"Quando liguei para minha família, minha irmã achou que eu estava sendo enganada. Minha mãe disse a mesma coisa que sempre diz sempre quando conquisto algo: 'Webale kusoma' ('obrigada por estudar muito' em Luganda)", diz ela.

A euforia da vitória claramente ainda não passou, a julgar pelo grande sorriso com que ela fala sobre o prêmio.

"Imagine, agora tenho uma página da Wikipedia.

"Quando me apresento recentemente, tenho que me lembrar de dizer: 'Também sou a laureada do Prêmio Alimentos da África de 2020'. E tenho meu troféu gigante que pesa cerca de 5 kg. Então, sei que não estou sonhando," diz com orgulho.