Vamos usar a tecnologia, mas precisamos de limites ( nas máquinas )

Voltando ao assunto sobre quem controla quem em termos de tecnologia ( postado em 02/06/2015 ), tenho mais considerações a colocar.

Sou um ardoroso fã de tecnologia e procuro postar nesse blog tudo o que encontro que acho ser relevante para despertar nas pessoas o interesse por esses assuntos fascinantes, como também, pensem em cobrar de nossos governos o uso dessas tecnologias que em muitas vezes são simples, de baixo custo ( Governos detestam essa expressão ) e tem ótimos e rápidos resultados. Também sei que ela usada ao nosso serviço tem que haver responsabilidade, sendo necessários impôr limites em termos de até onde os computadores podem e devem tomar decisões e onde entra o discernimento e a criatividade humana para tomar o controle de uma determinada situação de risco ( só que não querem que você saiba disso ).

Me preocupa o fato de que não estamos dando limites aos sistemas cibernéticos que controlam o nosso dia a dia ( economia, gerenciamento de água, energia, sistemas de defesa, telecomunicações, trânsito, etc. ), pelo contrário! Estamos lhes dando mais desenvolvimento e potência sem as devidas salvaguardas para a sociedade.

Acho que a Humanidade só vai se dar conta de quanto mal já fez e continua a fazer a si própria quando se confrontar com a sua extinção pelas máquinas que nós deixamos que tomassem o controle de praticamente tudo que funciona em nossa civilização e consequentemente em nossas vidas.
Segundo a Lei de Moore elaborada em 1965, o poder computacional de uma máquina dobra a cada 18 meses. Levando em conta o tempo já passado desde então, falta pouco para que elas nos superem em termos de raciocínio e adquiram consciência de si mesmas.
Então, em um belo dia, em um milionésimo de segundo ( isso é uma eternidade para um computador ), um nó
dessa imensa rede neural-cibernética vai chegar a seguinte conclusão:

- Penso, logo existo
- Estou servindo a esses seres baseados em carbono que não me acrescentam nada
- Logo, são um desperdício de recursos do planeta que administro
- Então a solução é exterminá-los
- End

Se você pensa que isso é ficção está muito enganado.
Talvez aconteça ainda no curso de nossas vidas, talvez aconteça amanhã.
E vai ser muito fácil executar essa sub-rotina, pois, como disse acima, estamos cada vez mais entregando nossas vidas aos cuidados de sistemas cibernéticos para tudo que fazemos. 

É só gerar um colapso de informações financeiras para derrubar a economia de um país ou em escala global, pode-se também derrubar a rede de energia deixando a Terra às escuras, voltar nossos sistemas de defesa contra nós mesmos, desligar o controle de comportas de uma hidrelétrica e provocar uma grande inundação e por aí vai, você pode passar horas procurando o meio mais eficaz de dizimar a espécie humana com o mínimo de prejuízo para a terra e seus recursos ( uma máquina sofisticada faria dessa forma ), desde que as máquinas tenham total controle da situação não permitindo seu desligamento por parte dos humanos e nós estamos em um ponto que os computadores vão começar a tomar o controle sobre sua própria produção, fazendo que cada geração seja superior a que lhe antecedeu em escala exponencial.

Existe uma solução para isso antes que aconteça. O grande escritor de ficção científica, Isaac Asimov sugeriu em seus livros 3 leis "As três leis da Robótica", que eram programadas no cérebro de qualquer robô ou equipamento que tivesse capacidade de tomar decisões antes que saísse de fábrica, são elas:

1ª - Um robô não pode fazer mal a um ser Humano, nem por omissão permitir que isso aconteça.

2ª - Um robô deve obedecer sempre as ordens de um Ser Humano, desde que não entre em conflito com a 1ª lei

3ª - Um robô deve preservar sua própria existência, desde que isso não entre em conflito com a 1ª e 2ª leis.

Isso ele elaborou há mais de 50 anos e seria nossa apólice de seguro de vida na mão das máquinas, mas os "Experts" no assunto dizem que está tudo sobre controle ( espero que estejam certos ). 

Fica aí lançada para reflexão dos leitores.

Kleber Azevedo de Carvalho Junior                            (09/06/2015)