Le critiche allIA Alessandro Cappellini 22 Maggio 2004

Le macchine, diceva, sono effetto dellarte, che è scimmia della natura, e di essa riproducono non le forme ma la stessa operazione. Ruggiero Bacone, che io venero quale maestro, ci ha insegnato che il piano divino passerà un giorno per la scienza delle macchine, che è magia naturale e santa. E io ti dico che Dio vuole che siano, e certo son già nella sua mente, anche se il mio amico di Occam nega che le idee esistano in tal modo, e non perché possiamo decidere della natura divina, ma proprio perché non possiamo porle alcun limite. (U.Eco – Il nome della rosa)

Indice Prospettive dellIA Animal AI Critici e Opinioni Kurt Godel Roger Penrose John Searle (Martin Stower) Kevin Warwick Mark Humphrys Marvin Minsky

Il futuro dellIA RoboCup: partite di calcio da 10 minuti con robot reattivi. Reti neurali e Algortimi Genetici. Vita artificiale (inventata da von Neumann): Norms di Stephen Grand. Intelligenza Artificiale Distribuita: tanti agenti capaci di poche operazioni e in grado di coordinarsi. Computer affettivi. Semplificando: LIA forte ha un approccio top down, solo software e con uso di ragionamento simbolico; La cibernetica ha un approccio bottom up.

Animal AI Osservazione di bambini e animali Studio di: memoria, rappresentazione, linguaggio, emozioni Scopo: costruire una creatura pre-linguistica che percepisce lambiente e capisce (in senso fisico) per imparare. Scopo (lungo termine): Far evolvere un linguaggio Usi: ambienti imprevedibili (città, strada…) piuttosto che nei prevedibili (catena di montaggio) Obbiettivo: Imparare e adattarsi Obbiettivo: Compiere giudizi su problemi incompleti In parallelo: Sistemi (motori) di ricerca automatizzati che interpretano le richieste

Kurt Godel Secondo il teorema dellincompletezza di Godel: ogni sistema formale è inconsistente, incoerente, cioè permette di dimostrare frasi false, oppure è incompleto, cioè non è capace di decidere, dimostrare, la verità o la falsità di alcuni teoremi. Un esempio è la frase io non sono dimostrabile; se è dimostrabile è falsa, se invece la frase fosse vera il teorema non è dimostrabile.

Roger Penrose Roger Penrose usa il teorema di Godel per attaccare lIA (forte), sostenendo che nessun computer in grado di manipolare simboli possa risolvere limpasse proposta. Replica: LIA può non essere un sistema logico (truth- preserving), quanto statistico o che impara da azioni casuali. La coscienza/Intelligenza è data da una macchina che sfrutta effetti quantistici (Stuart Hameroff MD e gli studi sulla memoria). Replica: interessante, ma non provata. Mantiene uniti mente e consapevolezza.

John Searle – Chinese Box John Searle va contro contro lIA forte con il paradosso della Chinese Box (1980), in cui un uomo, rinchiuso con dei manuali di cinese, interagisce con dei madrelingua allesterno. (System Reply) Lintelligenza sta nel complesso della stanza (sistema). (Robot Reply) Mancano le interazioni con il mondo esterno per comprendere i simboli manipolati. (Searle: mettiamo la stanza dentro un robot che cammina, ma tutto ciò che capisco e seguo sono comunque simboli formali) (Brain Simulator Reply) La stanza simula le sinapsi di un Cinese Speaker con le sue regole sintattiche.(Searle: manca la semantica)

Searle's Derivation from Axioms (1990) (A1) Programs are formal (syntactic). (A2) Minds have mental contents (semantics). (A3) Syntax by itself is neither constitutive of nor sufficient for semantics. conclude: (C1) Programs are neither constitutive of nor sufficient for minds. Searle aggiunge un quarto assioma: (A4) Brains cause minds. con una immediata conclusione: (C2) Any other system capable of causing minds would have to have causal powers (at least) equivalent to those of brains. da cui derivano anche: (C3) Any artifact that produced mental phenomena, any artificial brain, would have to be able to duplicate the specific causal powers of brains, and it could not do that just by running a formal program. (C4) The way that human brains actually produce mental phenomena cannot be solely by virtue of running a computer program.

Searle - Is the brain a digital computer? La mente è un programma per computer? NO. La sintassi formale del programma non è sufficiente a garantire da sola la presenza di contenuti mentali. Un computer, io ad esempio, potrebbe svolgere i passaggi nel programma grazie a qualche capacità mentale, come per esempio comprendere il cinese senza capire una parola di cinese. Le operazioni svolte dal cervello possono essere simulate da un computer digitale? Se si intende: I processi cerebrali sono suscettibili di calcolo, e quindi possono essere simulati, la risposta è SI, per la tesi di Church. Il cervello è un computer digitale? La domanda è mal posta. La computazione ha una definizione vaga. Si tende a considerare lomuncolo. Il cervello non elabora informazioni, ha dei processi neurobiologici che a volte generano consapevolezza.

Kevin Warwick, March of the Machines 1.E in teoria possibile costruire macchine intelligenti 2.Questo avverrà presto 3.Tutti i problemi teorici sono vicini alla soluzione. E un problema di potenza di calcolo/dimensione 4.Lo sviluppo delluomo si bloccherà In anni Manca un background teorico solido I casi proposto sono facili (Animal-AI) Si sofferma sui problemi etici e sul destino dellumanità

Mark Humphrys - Open issues 1.Architectures of Mind - What does the whole mind look like? Network, Hierarchy or Society? Does I/O link to many brains or one? Who is in charge? Where am I? What is consciousness? 2.Action Selection - As a more specific example of the above. We know how to solve 1 problem. How does the creature deal with multiple problems at once? 3."Learning to Learn" - How does the creature generate goals for itself in the first place? 4.Symbol-grounding, Evolution of language. - What is language? How do creatures processing numerical sensory data end up processing symbolic "words" with meanings? What does "chair" mean, internally? Is it a meaningless token #5099 being passed around, or is it a whole specialised sub-system, firing away? Do parts of the brain talk to each other? Do we have an internal language? Is it English, or is it something more messy? Will sub-symbolic AI plug in neatly to symbolic AI? 5.Robots or simulation? - Robots are more real, may solve symbol- grounding. But experiments in simulation are often more practical. e.g. Sims evolved a world of beautiful 3-D creatures from scratch. Large-scale experiments involving the Web?

Marvin Minsky - La società della mente Rendere un calcolatore capace di manipolare non solo dati numerici, ma anche simboli di tipo linguistico per la comprensione di forme di ragionamento basate su analogie e sul senso comune. Concetto di frame, un quadro di riferimento capace di fornire al programma una gamma di informazioni che trattano una classe di oggetti o di situazioni. Decentramento: la mente, secondo Minsky, funziona in modo simile a una società di agenti altamente specializzati, dove ognuno di essi ha un suo specifico compito. Quando una persona compie più azioni nello stesso istante, possono aver luogo conflitti tra gli agenti. Questi conflitti danno vita a tensioni che generalmente fanno sì che un agente prevalga sugli altri. A tensioni eccessive può tuttavia corrispondere un blocco dell'intero sistema. Alle macchine manca la conoscenza del senso comune, ossia quel tipo di conoscenza formata da un numero incredibile di nozioni pratiche, di regole ed eccezioni, disposizioni e tendenze, acquisite faticosamente attraverso l'esperienza quotidiana. Non è detto che le macchine non si possano dotare di meccanismi per acquisire e trattare lesperienza.

"Un giorno si presenterà forse una soluzione del tutto diversa" scrive Minsky, "quella di conseguire l'immortalità trasferendo la nostra personalità in un nuovo contenitore che sostituisca non solo alcune, ma tutte le nostre funzioni, tanto fisiche quanto mentali, per mezzo di un qualche grande computer. Questo è un modo in cui potrebbero andare le cose, per consentirci non solo di usare semplicemente dei computer, ma per diventare computer". (Il nostro futuro robotizzato, in M. Minsky, La robotica)