sábado, 30 de julho de 2011

Não Existe Sistema Inteligente

Artigo publicado no Caderno PENSAR do jornal Estado de Minas  30/07/2011 e reproduzido no Jornal da Ciência, edição 4313 de 2 de agosto de 2011, nesse link.




NÃO EXISTE SISTEMA INTELIGENTE


Cristina Duarte Murta

No convívio diário com as chamadas tecnologias da informação deparamo-nos frequentemente com expressões que atribuem inteligência a diversos sistemas, dispositivos e objetos construídos pelo homem tais como prédio inteligente, celular inteligente, robô inteligente e software inteligente.

A questão da possibilidade de construção de máquinas inteligentes foi tratada por Descartes em seu “Discurso do Método”, texto publicado em 1637. Descartes argumenta que, mesmo que possamos construir máquinas assemelhadas ao nosso corpo e que imitem nossas ações, haverá ainda duas maneiras de distingui-las dos humanos. A primeira é que as máquinas jamais poderão usar palavras e outros sinais da mesma forma que fazemos para expressar nossos pensamentos. Uma máquina pode até proferir palavras e reagir a algumas ações mas não é possível imaginar uma máquina respondendo com sentido a tudo que é dito em sua presença, tal como pode fazer o mais obtuso dos homens. 

A segunda maneira, ensina ele, é que, embora as máquinas possam fazer muitas coisas muito bem, e possivelmente até melhor do que nós, infalivelmente fracassariam em outras. Isso comprovaria que não agem por entendimento e sim porque são arranjadas para aquela tarefa específica. Enquanto a razão é um instrumento universal que pode servir a todo tipo de situação, as máquinas precisam de uma disposição particular para cada tipo de ação e é impossível construir uma máquina com capacidade para agir em todas as situações da vida, tal como é a razão humana.

O argumento de Descartes permanece rigorosamente verdadeiro. Quando ligamos para uma central de atendimento, para resolver problemas ou solicitar serviços, percebemos imediatamente se estamos sendo atendidos por máquinas ou por pessoas. Uma frase basta, mesmo quando ouvimos uma voz humana gravada.  E nem o computador mais sofisticado à venda pode buscar um copo de água na cozinha, ou comprar pão na padaria do outro lado da rua.

Desde a invenção do computador o homem trabalha para inserir inteligência nas máquinas. Com o propósito de avaliar o sucesso dessa empreitada, Alan Turing propôs, em 1950, o conhecido Teste de Turing, cujo objetivo é demonstrar a possibilidade de computadores se passarem por humanos. O teste de Turing consiste em avaliar a eficácia da máquina para a tarefa de estabelecer e manter conversa com uma pessoa.  A prova é realizada por meio de um terminal similar a um monitor. O juiz estabelece uma conversa, por meio de textos digitados, com um interlocutor. O juiz não sabe se o interlocutor é uma máquina ou uma pessoa. Ao concluir a conversa, o juiz deve indicar se do outro lado há um humano ou uma máquina. Qualquer dúvida indica que a máquina passou na prova. 

Turing previu que até o fim do século XX os computadores passariam facilmente em seu teste, o que não se confirmou. A competição Loebner Prize, que reproduz o teste de Turing, é realizada desde 1990. Dois prêmios principais são oferecidos anualmente e a competição terminará assim que eles forem atribuídos, o que até agora não ocorreu.

Inteligência Artificial

Afinal, qual é o conceito de Inteligência Artificial (IA)? A inteligência artificial tenta imitar a inteligência dos humanos? Ou é um conceito de inteligência diferente? Trata-se do mesmo conceito de inteligência humana, explica John McCarthy, professor da Universidade de Stanford, a quem é atribuída a criação do termo. Originalmente, a IA foi fundada na tentativa de expressar a razão humana por meio de algoritmos, o que explica os vários trabalhos dedicados a mostrar que o cérebro não opera como um computador digital.

Nas últimas décadas, enquanto o conceito de inteligência humana evoluiu na esteira das pesquisas na área, a definição de inteligência artificial involuiu para acomodar o sonho da construção de sistemas inteligentes. Nos tempos atuais, duas definições são geralmente encontradas. A primeira indica que inteligência artificial é uma propriedade de máquinas que executam funções que exigem inteligência quando executadas por pessoas. Esta é uma definição frágil: máquinas executando qualquer tarefa não apresentam nenhuma inteligência, pois somente seguem instruções previamente definidas. O projeto da solução e a construção da máquina que realiza a solução são tarefas que requerem inteligência e talento, mas a simples repetição cabal de uma tarefa não garante à máquina repetidora nenhuma inteligência.

Os sistemas construídos pelo homem, computacionais ou não, estão cada vez mais sofisticados e complexos. Considere, por exemplo, as espaçonaves, a Internet, grandes parques industriais e uma infinidade de sistemas essenciais para a vida contemporânea, que não são qualificados como inteligentes. Os sistemas operacionais controlam computadores no mundo inteiro e seriam fortíssimos candidatos a serem caracterizados como inteligentes, mas o termo não é associado a eles. Podemos dizer que são eficientes, rápidos, escaláveis, estáveis, robustos e seguros mas não são inteligentes. Seria possível ter um software “inteligente” executando sobre um sistema operacional burro?

Mais recentemente, a inteligência artificial foi definida como o estudo e o projeto de agentes inteligentes. Um agente inteligente é uma entidade autônoma que age em um ambiente. A Wikipédia ensina que um agente inteligente pode ser um homem ou um termostato. Ora, um termostato é um sensor e não tem nenhuma inteligência. Caracterizar como inteligente uma estrutura que altera suas características físicas ou químicas em função do ambiente em que se encontra é uma afronta a qualquer estudante de física básica ou de filosofia. Um agente é um dispositivo programado para coletar dados de um ambiente e executar certas ações, antecipadamente programadas, a partir de cálculos executados com os dados coletados. Não há nenhuma inteligência embutida no agente, apenas código e tarefas a serem cumpridas. Projetar o agente é a ação inteligente.

Mito

O desenvolvimento e a popularização dos computadores foram acompanhados por sua desmistificação. A distinção entre os computadores e o cérebro humano torna-se cada vez mais evidente, não apenas para os estudiosos, mas também para os leigos. A inteligência humana caracteriza-se pela capacidade de compreender, abstrair, raciocinar, planejar, solucionar problemas, usar a linguagem, aprender e se esclarecer. Ser inteligente é surpreender, é receber e responder ao novo. Trata-se de razão e entendimento, capacidades que definitivamente não existem nos computadores digitais.

Essa máquina programável recebe, armazena, processa e transmite dados numéricos. Palavras, imagens, sons e vídeos são transformados em números binários (sequências de zeros e uns). Um programa computacional é composto por instruções matemáticas e lógicas, além de instruções de entrada e saída de dados. Um computador executa fielmente as instruções passadas a ele por meio dos programas, isto é, resolve os problemas exatamente da forma que foi programado para resolvê-los. 

Um programa computacional não adiciona código a si mesmo para considerar uma situação não prevista durante a programação. Um programa não se adapta a um contexto não previsto em seu código nem é capaz de surpreender-se com algo inesperado nem de esclarecer-se acerca de um assunto ou problema. Um sistema computacional, por mais sofisticado e complexo que possa parecer, somente executa bit a bit as instruções dadas em seu código.

Máquinas e sistemas inventados pelo homem não tem ideias, não fazem conexões novas entre objetos e saberes (além das que já estão programadas), não geram novas compreensões, não estabelecem nem reveem fundamentos. Sistemas realmente inteligentes construiriam uma nova sociedade - não humana -  com sua política, sua cultura e sua vida social.

Se a máquina não pensa, como pode ser inteligente? Ou, se a máquina é inteligente, então ela pensa? Como separar a inteligência do pensamento? Há inteligência sem pensamento? E como desvincular a inteligência da razão e do entendimento? Como separar a inteligência do humano? E da vida? Há inteligência sem vida?

A inteligência está em idealizar, arquitetar e construir os sistemas e não no sistema produzido. Ao construir sistemas, não atribuímos a eles nenhuma inteligência, nem produzimos inteligência nos sistemas. Projetar e construir um produto ou sistema bem elaborado, engenhoso e eficaz é uma ação inteligente mas não transfere inteligência para o produto. Máquinas somente executam as instruções gravadas em seu código. O computador é uma máquina capaz de executar instruções, apenas isso. É como uma engrenagem, mas uma engrenagem digital, em vez de uma engrenagem mecânica.

Muita fantasia e ficção científica são necessárias para designar qualquer sistema, objeto ou dispositivo atual, produzido pelo homem, como inteligente. Dizer que um sistema é inteligente é equivalente a dizer que um boneco, destes que encontramos em lojas de brinquedo, está vivo porque mexe os braços e fala algumas frases. Coisa de criança.

Enquanto alimentamos a fantasia da construção de sistemas inteligentes, gerações de profissionais e cientistas estão sendo formadas sob essa falsa bandeira. Os algoritmos estudados sob o rótulo de IA são importantes para a computação, mas não produzem sistemas inteligentes. Redefinir o conceito de inteligência para acomodar sonhos e fantasias é um enorme equívoco científico. No desenvolvimento da ciência, ocasionalmente é preciso romper para avançar, e esse é o caso. Abandonar o rótulo é avanço, não  retrocesso.

16 comentários:

  1. Excelente texto. Lembrou-me dos bons textos do professor Valdemar Setzer (http://www.ime.usp.br/~vwsetzer/), principalmente este:


    http://www.IA – Inteligência Artificial ou Imbecilidade Automática?
    As máquinas podem pensar e sentir?

    ResponderExcluir
  2. Tema interessante. Mas dependendo de como a gente definir pensar, pode ser possivel criar sistemas que "pensam". Se ele buscar informacoes novas automaticamente, processa-las e associa-las de forma "aleatoria" e autonoma, e a partir disto criar novas "regras" para seu comportamento futuro, eu me dou por satisfeito para dizer que o sistema pensa. Abraco!

    ResponderExcluir
  3. "Máquinas e sistemas inventados pelo homem não tem ideias, não fazem conexões novas entre objetos e saberes (além das que já estão programadas), não geram novas compreensões, não estabelecem nem reveem fundamentos."

    Apenas 1 trecho selecionado dentre vários equivocados. Creio que falte um pouco de estudo em IA para a autora que, de fato, não é desta área.

    ResponderExcluir
  4. Falta mostrar onde estão os equívocos, não adianta só dizer que eles existem. É preciso discuti-los.

    Para ser inteligente, é preciso inventar, e a máquina não inventa nada. Esse é o ponto.

    Realmente eu não sou da área, uma vez que sempre a questionei desde a primeira vez que tomei conhecimento dela.

    ResponderExcluir
  5. Resposta para o Carlos Denner: realmente tudo depende de como a gente define as coisas. Essas aspas que você coloca em vários termos na sua mensagem levam à ambiguidade. É essa ambiguidade que os cientistas precisam combater, é preciso ter rigor nas definições.

    Para mim, é impossível o sistema pensar. Pois se ele só faz o que é programado para fazer, ele nem tem noção de si mesmo, então não tem autonomia nenhuma além dos ifs-elses que estão programados nele.

    Obrigada pelo comentário!

    ResponderExcluir
  6. Creio que a maioria dos chamamos "sistemas inteligentes" sao na verdade "sistemas especialistas". Terminologias!

    ResponderExcluir
  7. Corrigindo: o link para "IA – Inteligência Artificial ou Imbecilidade Automática? As máquinas podem pensar e sentir?" é http://www.ime.usp.br/~vwsetzer/IAtrad.html

    ResponderExcluir
  8. O Carlos Denner disse que

    PENSAR = Buscar informacoes novas automaticamente +
    processa-las +
    associa-las de forma "aleatoria" e autonoma +
    a partir disto criar novas "regras" para seu comportamento futuro.

    Mas será que é isso que as pessoas pensam que é pensar? Se as pessoas souberem como as máquias foram programadas será que elas vão achar que elas são inteligentes?

    E será que não cabe a nós deixar isto claro e evitar usar um termo enganoso/enganador?

    ResponderExcluir
  9. Como já dizia o Gil:

    Cérebro Eletrônico
    Gilberto Gil

    Ouça a música em: http://letras.terra.com.br/gilberto-gil/46197/

    O cérebro eletrônico faz tudo
    Faz quase tudo
    Faz quase tudo
    Mas ele é mudo

    O cérebro eletrônico comanda
    Manda e desmanda
    Ele é quem manda
    Mas ele não anda

    Só eu posso pensar
    Se Deus existe
    Só eu
    Só eu posso chorar
    Quando estou triste
    Só eu
    Eu cá com meus botões
    De carne e osso
    Eu falo e ouço. Hum

    Eu penso e posso
    Eu posso decidir
    Se vivo ou morro por que
    Porque sou vivo
    Vivo pra cachorro e sei
    Que cérebro eletrônico nenhum me dá socorro
    No meu caminho inevitável para a morte
    Porque sou vivo
    Sou muito vivo e sei

    Que a morte é nosso impulso primitivo e sei
    Que cérebro eletrônico nenhum me dá socorro
    Com seus botões de ferro e seus
    Olhos de vidro

    ResponderExcluir
  10. Luis Gustavo Nardin12 de agosto de 2011 08:52

    Quando projetamos um sistema para se utilizar de técnicas que, quando aplicadas por humanos, são consideradas evidências de inteligência, nós não transferimos essa inteligência para o sistema projetado?

    Resposta 1
    Sim, nós a transferimos.
    Nesse caso, podemos considerar a existência de diferentes níveis ou tipos de inteligência e, consequentemente, podemos dizer que o sistema projetado é inteligente. Essa resposta vai de encontro a teoria das múltiplas inteligências em que "a inteligência não é uma só, mas consiste num conjunto de capacidades relativamente independentes".

    Resposta 2
    Não, nós não a transferimos.
    Então assumi-se a existência de uma única forma de inteligência que nem mesmo o ser humano possui, pois para defini-la teriamos que ter uma capacidade de criação superior a própria "inteligência".

    Portanto, dependendo da definição de inteligência assumida, pode-se ou não assumir que os sistemas são inteligentes.

    O texto divulgado me aparentou estar enviesado pelos sentimentos e preferências da autora. Além de apresentar um ponto de vista superficial e sem bases fortes nem teóricas e nem de argumentação filosófica.

    Criticar uma área de forma embasada a auxilia a crescer, mas simplesmente "falar mal" sem argumentar coerentemente não auxilia em nada.

    Sugiro a leitura do artigo "Can machines think? An old question reformulated" de Achim Hoffman, através do link http://www.springerlink.com/content/r7043k8078721958/.

    Atenciosamente,

    ResponderExcluir
  11. Respondendo a Luis Gustavo Nardin:

    Sim, várias definições de inteligência são possíveis. Por exemplo, pode ser definido que a ação de decidir entre opções é uma ação inteligente; portanto, a implementação de um comando if-else seria uma ação inteligente, segundo essa definição, embora não passe de uma inspeção de bits em um computador digital. Eu não fico satisfeita com essa definição.

    O artigo aborda a questão a partir da definição de IA tal como foi proposta originalmente, bem como as definições atuais, que são dúbias e questionáveis.

    O texto toma, sem dúvida, uma abordagem filosófica, uma vez que discute uma questão de fundamento (o que é um sistema inteligente?) a partir da investigação do conceito de inteligência, por meio de argumentos. Portanto, ao contrário do que o comentário afirma,
    o texto é embasado nos conceitos oferecidos pela própria IA.

    Para não haver dúvida quanto a isso, sugiro o livro "What Computers Still Can't Do: A Critique of Artificial Reason", do professor de filosofia da UC Berkeley, Hubert Dreyfus.

    Sugiro também o artigo "Computer versus Human Thinking" de Peter Naur (CACM 2007), que ganhou o prêmio Turing em 2005 (ironicamente) rejeitando as ideias de Turing e afirmando que o pensamento humano não é computável.

    Obrigada pela leitura, comentários e bibliografia indicada.

    ResponderExcluir
  12. Você está por fora...

    Em primeiro lugar, isso que você apresentou como argumento de Descartes para a impossibilidade de uma máquina ser considerada inteligente, não é um argumento. Não no sentido clássico do termo, pelo menos. Um argumento é expresso por uma sentença declarativa, e relaciona premissas a conclusões, onde as premissas devem ser mais plausíveis que as conclusões. As colocações atribuídas a Descartes só tem conclusões. Não passa de um achismo. E, considerando que isso vem de um sujeito que acreditava que a glândula pineal era uma espécie de morada da alma e origem dos pensamentos, é bom tomar cuidado com o que o sujeito "acha".

    ResponderExcluir
    Respostas
    1. A refutação mais forte ao meu argumento é apresentar um sistema inteligente para que possamos testá-lo. Basta apresentar um. Não é necessário desqualificar autores nem argumentos. O argumento de Descartes é apenas um dos vários argumentos do texto. Veja outros dois textos nesse blog "Alquimia Digital" e "Computadores, Cérebros e o Sonho da Inteligência Artificial" para outros argumentos sobre a inexistẽncia de sistemas inteligentes fabricados pelo homem.

      Excluir
  13. E, sobre a seguinte passagem: "Um programa computacional não adiciona código a si mesmo para considerar uma situação não prevista durante a programação. Um programa não se adapta a um contexto não previsto em seu código nem é capaz de surpreender-se com algo inesperado nem de esclarecer-se acerca de um assunto ou problema. Um sistema computacional, por mais sofisticado e complexo que possa parecer, somente executa bit a bit as instruções dadas em seu código."

    Em primeiro lugar, você deve estar por fora em relação aos desenvolvimentos em "aprendizado de máquina". Sugiro que dê uma olhada nisso. Outra coisa, você parece estar considerando apenas certos modelos de máquinas que você conhece. O que me diz de computadores quânticos, ou máquinas que seguem um modelo super-turing? Máquinas neuromórficas, analógicas? Você não oferece nenhum argumento convincente capaz de excluir a possibilidade de inteligência em máquinas. Só expressa o seu desejo de que elas não possa existir.

    Outra coisa...Você já parou pra pensar que isso que você considera criatividade humana, é apenas um "seguir regras" biologicamente determinadas, que processam informações de entrada acumuladas durante as nossas experiências prévias? Para pensar...

    ResponderExcluir
    Respostas
    1. Obrigada pela sugestão, já conheço a área o bastante para dizer que não há inteligência nenhuma ali, apenas cálculos matemáticos e estatísticos implementados. Todo o meu argumento é para computadores digitais, isso está no texto. O texto está no presente: não existe - hoje - sistema inteligente. Em nenhum momento eu falo acerca do futuro nesse texto.

      Como eu disse no comentário anterior, é bem fácil refutar meu argumento. Se você acha que existe sistema inteligente, basta apresentá-lo que o testaremos.

      Excluir