Os perigos que a Inteligência Artificial trará à humanidade

Com informações da Agência Fapesp

• Os perigos que a Inteligência Artificial trará à humanidade

"Fico hesitante em dizer que devemos acelerar nosso desenvolvimento tecnológico," ponderou o professor Frank Allgöwer. [Imagem: Cortesia Stuttgarter-Zeitung/Reiner Pfisterer]

Perdendo o controle da tecnologia

De veículos autônomos a fábricas e cidades inteligentes, a humanidade está construindo sistemas computacionais dinâmicos cada vez mais complexos, que trabalham em rede com alto grau de automação e de autonomia.

O grande medo é que, nesse grande mundo interconectado que se avizinha, os humanos tornem-se meros usuários desses sistemas dinâmicos complexos, e não mais a força que os controla.

Para o professor Frank Allgöwer, da Universidade de Stuttgart, na Alemanha, somente com um grande esforço em pesquisa básica, particularmente na área de engenharia cibernética, será possível desenvolver mecanismos de controle para garantir que tudo funcione de maneira adequada - e, sobretudo, que nada saia do controle humano.

"Ainda não entendemos muito bem como esses sistemas funcionam, como interagem e se organizam, mas ainda assim os estamos construindo. Embora pense que os efeitos positivos devem superar os negativos, fico hesitante em dizer que devemos acelerar nosso desenvolvimento tecnológico. Creio que este seria o momento de fazer a pesquisa básica alcançar as inovações tecnológicas que estão surgindo para que possamos realmente entender o que está acontecendo", ponderou Allgöwer durante uma palestra em São Paulo, promovida pela Fapesp.

Engenharia cibernética

De acordo com o pesquisador alemão, a autonomia crescente e a estrutura em rede são as características-chave das inovações tecnológicas atuais. E a engenharia cibernética é a ciência básica que está no centro desse processo, possibilitando, por meio de métodos matemáticos e teoremas, prever o funcionamento desses sistemas complexos e influenciar seu comportamento.

"Controlar um sistema dinâmico - como por exemplo um carro autônomo - é uma tarefa difícil, nada trivial. Requer, portanto, uma boa base teórica. Mas esse não é o fim da linha. No futuro, haverá muitos carros autônomos e eles terão de se organizar e conversar entre si, de modo a otimizar o trânsito, poupar energia, tempo e evitar acidentes. Essa rede terá de ser operada por controladores cibernéticos, pois nenhum humano consegue reagir rápido o suficiente para gerir uma rede tão complexa e da qual muitas vidas dependem," exemplificou Allgöwer.

O sonho da inteligência artificial continua cada vez mais vivo, mas um número cada vez maior de especialistas teme uma revolução das máquinas. [Imagem: Jared C. Benedict/MIT Media Lab]

Do mesmo modo, nesse futuro a geração de energia não será mais concentrada em grandes usinas, e sim distribuída em pequenas unidades individuais e até domésticas, formadas por geradores eólicos ou solares interconectados. Essas unidades terão de se organizar de modo a enviar energia onde há demanda, evitando falhas e interrupções no fornecimento.

Já nas fábricas, as linhas de montagem introduzidas na segunda revolução industrial estão dando lugar a estações de manufatura estruturadas em redes. "Na indústria 4.0, se o robô de uma determinada estação quebrar ou estiver sobrecarregado, outro assume sua função e, nesse sistema interconectado, é possível produzir mercadorias de forma mais barata e eficiente," disse.

Papel das ciências humanas

Para Allgöwer, a crescente autonomia dos sistemas dinâmicos é, em princípio, algo positivo, devendo beneficiar a economia, os meios de trabalho, aumentar a qualidade de vida e a eficiência no uso de recursos, tornando as atividades humanas mais sustentáveis.

Porém, pode haver perigos associados.

"Esses sistemas são tão complexos que os seres humanos não têm como acompanhar tudo o que está acontecendo. Os robôs terão todo o conhecimento sobre nós e vão influenciar tudo o que fazemos. Poderiam essas máquinas assumir o controle da sociedade?", indagou.

Para responder a questões como essa, segundo Allgöwer, além de pesquisas em engenharia cibernética também serão necessários estudos em áreas como filosofia e ciências sociais.

"É preciso que pesquisadores da área de humanas supervisionem o que os engenheiros estão construindo", recomendou ele.