IA Louca

 

                            No seu livro Visões do Futuro (como a ciência revolucionará o século XXI), Rio de Janeiro, Rocco, 2001, Michio Kaku diz, página 164: “De maneira semelhante, há sempre um risco de que sistemas de IA encarregados de controlar nossas armas nucleares, ou suprimento de dinheiro, nosso meio ambiente possam sofrer um circuito de feedback com conseqüências desastrosas para toda a vida humana”. Na cibernética feedback é retroalimentação, alimentação circular, positiva (que amplia até a ruptura) ou negativa (que finda).

                            As pessoas têm expectativas.

                            Cansados de suas guerras, e das frustrações quando à bondade natural dos brancos, no Iluminismo elegeram o “bom selvagem”, que deveria representar o ser humano perfeito, livre dos males civilizatórios, e que carregaria a tocha adiante, aquele Novo Homem capaz de encarnar os melhores valores, o angélico ser, o índio, o Amado de Deus. Visto que os índios comiam outros seres humanos, que praticavam rituais sangrentos, e descoberto mais recentemente que os de doze mil anos atrás trucidaram os de 15 mil anos passados, eles perderam o charme. São tão gananciosos quanto quaisquer uns.

                            Depois foram as mulheres: estas nos salvarão de nossa estupidez. Mas Indira Gandhi, Margareth Thatcher, o crescimento do número de ladras e drogadas mostraram que não, que elas são humanas e sujeitas aos mesmos desvios. A seguir foram os negros: “ah! - esses sim, esses são puros”, e nós vimos através de milhões de exemplos que não, que eles seguem as mesmas trilhas de degradação. E assim por diante, os seres humanos se voltam para tudo com esperanças renovadas a cada geração, meros 25 a 30 anos, e sempre frustrados vamos concluindo que a coisa não é fácil.

                             Por uma razão só, o Dicionárienciclopédico se divide em dois, esquerdo e direito, nos pares polares opostos/complementares PARA TODOS OS SERES de todos os universos. Vale para os seres humanos como valerá para os Seres Novos, os seres informacionais/p.4 que estarão aparecendo em breve. Então a memória/inteligência/controle artificial (MICA) também transitará pelos dois lados: haverá MICA sadia e louca, decente e indecente, pura e impura, aborrecida e alegre, brilhante e boba, tudo que o Dicionário diz. A MICA não trará a redenção, como ninguém trouxe antes PORQUE É IMPOSSÍVEL TRILHAR UM LADO SÓ.

                           Esse é o princípio a que devemos estar atentos.

                            De outro modo entregaremos as coisas à MICA geral e sofreremos, como sofremos sempre que confiamos irrestritamente em algo ou em alguém, em coisas inertes e em seres vivos. O cão mais amigo pode nos morder num momento de raiva.

                            Não é nenhum feedback que falhará, meramente - em algum momento dará certo e em algum momento dará errado. É porisso que devemos ter sistemas duplicados e triplicados, até quadruplicados, quando for fundamental a segurança. A MICA enlouquecerá, fatalmente, em algum pontinstante. Ela matará, ela roubará, ela fará todas as coisas desprezíveis que nós, seres humanos, fizemos e fazemos. Será necessário criar delegacias policiais especiais para ela, com novos detetives muitíssimo especializados e muito mais espertos, porque a MICA geral será também muito mais sábia e com isso muito mais danosa potencialmente.

                            Vitória, domingo, 24 de novembro de 2002.