Intelligenza artificiale - definizioni, test di Turing e storia
In questa pagina 6
Primo argomento del corso di Intelligenza Artificiale (slide del corso di Intelligenza Artificiale, Ing. dell'Informazione UniPD). Serve a fissare il vocabolario: che cosa si intende per IA, quale delle definizioni è quella usata nel resto del corso, e da dove viene.
Che cos'è l'IA
Una definizione di lavoro, volutamente relativa al momento storico:
Definizione. L'intelligenza artificiale è lo studio di come far fare ai computer cose in cui, al momento, gli umani sono migliori (Rich e Knight).
Ne segue che la frontiera si sposta: ciò che una volta era IA (giocare a scacchi) diventa "normale informatica" quando i computer lo fanno meglio di noi. Per questo le definizioni più utili sono per categoria: si incrociano due domande.
| come gli umani | in modo razionale | |
|---|---|---|
| pensiero | pensare come un umano (thinking humanly) | pensare razionalmente (thinking rationally) |
| comportamento | agire come un umano (acting humanly) | agire razionalmente (acting rationally) |
Le quattro categorie sono quattro programmi di ricerca diversi, con metodi diversi; le vediamo una per una.
Agire come un umano - il test di Turing
Turing (1950, Computing Machinery and Intelligence) sostituisce la domanda vaga "le macchine possono pensare?" con una operativa: "le macchine possono comportarsi in modo intelligente?". Il criterio è il gioco dell'imitazione (Imitation Game), detto test di Turing: un interrogatore umano scambia domande e risposte scritte con un interlocutore nascosto; la macchina supera il test se l'interrogatore non riesce a stabilire se dall'altra parte c'è una persona o un computer.
Per superarlo servono quattro capacità, che Turing indicò come i componenti principali dell'IA:
| capacità | a cosa serve |
|---|---|
| elaborazione del linguaggio naturale (natural language processing) | comunicare in una lingua umana |
| rappresentazione della conoscenza (knowledge representation) | memorizzare ciò che sa o ascolta |
| ragionamento automatico (automated reasoning) | rispondere alle domande e trarre nuove conclusioni |
| apprendimento automatico (machine learning) | adattarsi a situazioni nuove, scoprire ed estrapolare regolarità |
Il test di Turing totale aggiunge un canale fisico: servono anche visione artificiale e riconoscimento vocale per percepire il mondo, e robotica per manipolare oggetti e muoversi.
Pensare come un umano - scienza cognitiva
Negli anni '60 la "rivoluzione cognitiva" porta l'elaborazione dell'informazione dentro la psicologia. Un programma che pensa come un umano richiede una teoria scientifica dei processi interni del cervello (la scienza cognitiva), da validare in due modi: prevedere e controllare il comportamento di persone (dall'alto verso il basso, top-down) oppure identificare il modello direttamente dai dati neurologici (dal basso verso l'alto, bottom-up).
I modelli cognitivi si costruiscono in tre modi: introspezione (provare a cogliere i propri pensieri mentre passano), esperimenti psicologici (osservare una persona che agisce), imaging cerebrale (osservare il cervello in azione).
Pensare razionalmente - le "leggi del pensiero"
Aristotele si chiede quali siano gli argomenti corretti. Il caso tipico è il sillogismo: "Socrate è un uomo" e "tutti gli uomini sono mortali" implicano "Socrate è mortale". Varie scuole greche svilupparono forme di logica per derivare pensieri; nell'Ottocento i logici introdussero notazioni precise per enunciati su oggetti del mondo e sulle loro relazioni (diverse dall'aritmetica, che parla solo di numeri). Questa tradizione porta ai due argomenti del corso su logica (Agenti logici e logica proposizionale - inferenza e risoluzioneAgenti basati sulla conoscenza (KB, Tell e Ask), mondo del Wumpus come banco di prova, sintassi e semantica della logica proposizionale, conseguenza logica, equivalenze, inferenza per model checking (7 simboli, 128 modelli, 3 modelli della KB) e per risoluzione (CNF, regola di risoluzione, dimostrazione per assurdo). Limite: poca espressività, da cui la logica del primo ordine.Agenti logici e logica proposizionale - inferenza e risoluzione →, Logica del primo ordine - unificazione, forward e backward chainingLogica del primo ordine (oggetti, relazioni, funzioni, quantificatori e errori tipici), sostituzioni, istanziazione universale ed esistenziale (Skolem), proposizionalizzazione e suoi limiti, unificazione con occur check, risoluzione nel primo ordine con conversione in CNF, esempio Criminal(West), clausole definite, forward e backward chaining, ingegneria della conoscenza.Logica del primo ordine - unificazione, forward e backward chaining →; i quantificatori sono richiamati in Logica e quantificatoriProposizioni, connettivi, predicati e quantificatori (per ogni, esiste), con le regole per negarli.Logica e quantificatori →).
Tre problemi di questo approccio:
- Non ogni comportamento intelligente passa da una deduzione logica: un riflesso (togliere la mano da una stufa) è intelligente ma non deliberato.
- La logica classica richiede conoscenza certa del mondo, e questo succede di rado. La teoria della probabilità permette di ragionare in modo rigoroso con informazioni incerte (Incertezza - probabilità, regola di Bayes e indipendenza condizionataUn agente con osservazioni parziali non può usare regole logiche rigide ("mal di denti implica carie" è falso): usa la probabilità come grado di credenza e, con la teoria dell'utilità, sceglie l'azione con utilità attesa massima. Strumenti: distribuzione congiunta completa (tabella di $2^n$ valori), marginalizzazione $P(Y\mid e)=\alpha\sum_h P(Y,e,h)$ con costante di normalizzazione $\alpha=1/P(e)$, regola del prodotto $P(a,b)=P(a\mid b)P(b)$, regola di Bayes $P(\text{causa}\mid\text{effetto})=\frac{P(\text{effetto}\mid\text{causa})P(\text{causa})}{P(\text{effetto})}$ e indipendenza condizionata $P(a,b\mid c)=P(a\mid c)P(b\mid c)$, che permette di scomporre la congiunta in tabelle più piccole. Un test con sensibilità 73% e falsi positivi 12% su una malattia con prior 1/700 dà una probabilità a posteriori di appena 0,9%.Incertezza - probabilità, regola di Bayes e indipendenza condizionata →).
- A che cosa serve pensare? Quali pensieri conviene avere? Pensare da solo non genera comportamento: la razionalità non basta, serve una teoria dell'azione razionale.
Agire razionalmente - il modello standard
Definizione. Comportamento razionale = "fare la cosa giusta", cioè quella da cui ci si aspetta il massimo raggiungimento degli obiettivi, date le informazioni disponibili.
Non implica necessariamente pensare (un riflesso condizionato può essere razionale), ma il pensiero è al servizio dell'azione razionale. È l'interpretazione più usata dalla comunità di ricerca, di fatto il modello standard dell'IA, ed è quella su cui è costruito il corso: un agente razionale deve
- operare in modo autonomo;
- percepire l'ambiente;
- persistere per un tempo prolungato;
- adattarsi ai cambiamenti;
- creare e perseguire obiettivi.
Servono le stesse capacità indicate da Turing: rappresentazione della conoscenza e ragionamento (per decidere bene), linguaggio naturale (per operare in una società umana complessa), apprendimento (per migliorare e affrontare situazioni nuove). La definizione precisa di agente razionale è nella nota Agenti intelligenti - ambienti, PEAS e tipi di agenteUn agente è una funzione dalle sequenze di percezioni alle azioni; è razionale se per ogni sequenza sceglie l'azione che massimizza il valore atteso della misura di prestazione, date le percezioni e la conoscenza incorporata. L'ambiente di lavoro si descrive con PEAS (Performance, Environment, Actuators, Sensors) e si classifica con sette coppie di proprietà (osservabile, deterministico, episodico, statico, discreto, singolo/multi-agente, noto). Le architetture crescono in complessità: reattivo semplice, reattivo basato su modello, basato su obiettivi, basato su utilità, più l'agente che apprende (elemento esecutivo, di apprendimento, critico, generatore di problemi).Agenti intelligenti - ambienti, PEAS e tipi di agente →.
Esempio. Un termostato che accende il riscaldamento sotto 19 °C non "pensa", ma se l'obiettivo è tenere la stanza a 19 °C agisce razionalmente. Un programma che chiacchiera in modo indistinguibile da una persona supera il test di Turing (acting humanly) ma può comportarsi in modo irrazionale rispetto a un obiettivo dato, per esempio perché imita gli errori umani.
Le radici dell'IA
L'IA non nasce da una disciplina sola. Per ciascuna, la domanda a cui ha risposto e che cosa ha dato all'IA:
| disciplina | domande | contributo |
|---|---|---|
| filosofia | si possono usare regole formali per trarre conclusioni valide? Come nasce la mente da un cervello fisico? Da dove viene la conoscenza? Come la conoscenza porta all'azione? | logica, metodi di ragionamento, mente come sistema fisico |
| matematica | quali sono le regole formali per le conclusioni valide? Che cosa si può calcolare? Come si ragiona con informazione incerta? | rappresentazione formale e algoritmi di dimostrazione, calcolabilità, decidibilità, trattabilità, metodi probabilistici |
| neuroscienze | come elabora l'informazione il cervello? | reti neurali, interfacce cervello-macchina (potenza di calcolo simile, ma consumo energetico molto diverso) |
| psicologia | come pensano e agiscono umani e animali? | percezione, controllo motorio, interazione uomo-macchina |
| linguistica | come si relazionano linguaggio e pensiero? | rappresentazione della conoscenza, elaborazione del linguaggio naturale |
| teoria del controllo | come possono gli artefatti operare sotto il proprio controllo? Come massimizzare una funzione obiettivo nel tempo? | cibernetica |
| economia | come decidere secondo le proprie preferenze? E se altri non collaborano? E se il guadagno è lontano nel tempo? | teoria dell'utilità, teoria delle decisioni (teoria dei giochi, sistemi multiagente) |
| ingegneria dei calcolatori | come costruire un computer efficiente? | calcolatori veloci (GPU e TPU), Internet delle cose |
Breve storia
Il filo conduttore: ogni ondata di entusiasmo (ragionamento simbolico, sistemi esperti) è seguita da un ridimensionamento quando i metodi non scalano, e la ripresa arriva con nuovi metodi (apprendimento da dati) e nuovo hardware.
Rischi e benefici
- Benefici: meno lavoro ripetitivo; più produzione di beni e servizi; accelerazione della ricerca scientifica (cura di malattie, cambiamento climatico, scarsità di risorse).
- Rischi: armi autonome letali, privacy e persuasione, decisioni distorte (bias), impatto sull'occupazione, applicazioni critiche per la sicurezza, minacce alla cybersicurezza.
- Superintelligenza. Una IA che supera l'intelligenza umana può essere un rischio serio, e conta moltissimo l'obiettivo che l'agente persegue (un agente razionale massimizza l'obiettivo che gli è stato dato, non quello che intendevamo). Il problema del gorilla: umani e gorilla discendono dalla stessa specie, ma oggi comandano gli umani; quindi i sistemi di IA vanno progettati perché siano di beneficio all'uomo. Questo è il problema dell'allineamento dei valori (value alignment).
Come è organizzato il corso
Parti del corso (con la durata indicativa): introduzione (1 settimana), ricerca (1), logica (1, solo 9 CFU), metodi probabilistici (2), inferenza causale (3, solo 9 CFU), teoria delle decisioni (1), apprendimento automatico (3).
Esame (quiz su Moodle): 2/3 sulla teoria e 1/3 sul laboratorio. Corso da 9 CFU: 9 domande o esercizi (6 di teoria e 3 di laboratorio) in 90 minuti. Corso da 6 CFU: 6 (4 di teoria e 2 di laboratorio) in 60 minuti, escludendo logica e inferenza causale.
Domande d'esame
- Quali capacità deve avere un sistema per superare il test di Turing? E per il test totale? Linguaggio naturale, rappresentazione della conoscenza, ragionamento automatico, apprendimento. Il test totale aggiunge visione e riconoscimento vocale (percezione) e robotica (manipolazione e movimento).
- Perché "pensare razionalmente" (leggi del pensiero) non basta a definire l'IA? (a) Non tutto il comportamento intelligente è deliberato (riflessi); (b) la logica richiede conoscenza certa, mentre il mondo è incerto e serve la probabilità; (c) pensare non genera azione, serve una teoria dell'azione razionale.
- Quale delle quattro categorie è il "modello standard" e come si definisce il comportamento razionale? Agire razionalmente: fare l'azione da cui ci si aspetta il massimo raggiungimento degli obiettivi, date le informazioni disponibili.
Versione ripasso
- IA (Rich e Knight): far fare ai computer ciò in cui al momento gli umani sono migliori, quindi la frontiera si sposta. Quattro categorie, incrociando pensiero o comportamento con "come gli umani" o "razionale": thinking humanly, thinking rationally, acting humanly, acting rationally.
- Agire come umani, test di Turing (1950, Imitation Game): un interrogatore scambia domande scritte con un interlocutore nascosto e non distingue la macchina da una persona. Quattro capacità: linguaggio naturale (comunicare), rappresentazione della conoscenza (memorizzare ciò che sa), ragionamento automatico (rispondere e trarre conclusioni), machine learning (adattarsi ed estrapolare). Test totale: anche visione e riconoscimento vocale (percepire), robotica (manipolare, muoversi).
- Pensare come umani: serve una teoria scientifica dei processi interni (scienza cognitiva). Modelli da introspezione, esperimenti psicologici, imaging cerebrale; validazione top-down (prevedere il comportamento) o bottom-up (dati neurologici).
- Pensare razionalmente (Aristotele: "Socrate è un uomo" e "tutti gli uomini sono mortali" implicano "Socrate è mortale"; Agenti logici e logica proposizionale - inferenza e risoluzioneAgenti basati sulla conoscenza (KB, Tell e Ask), mondo del Wumpus come banco di prova, sintassi e semantica della logica proposizionale, conseguenza logica, equivalenze, inferenza per model checking (7 simboli, 128 modelli, 3 modelli della KB) e per risoluzione (CNF, regola di risoluzione, dimostrazione per assurdo). Limite: poca espressività, da cui la logica del primo ordine.Agenti logici e logica proposizionale - inferenza e risoluzione →). Tre limiti: i riflessi sono intelligenti ma non deduzioni; la logica vuole conoscenza certa, mentre con l'incertezza serve la probabilità (Incertezza - probabilità, regola di Bayes e indipendenza condizionataUn agente con osservazioni parziali non può usare regole logiche rigide ("mal di denti implica carie" è falso): usa la probabilità come grado di credenza e, con la teoria dell'utilità, sceglie l'azione con utilità attesa massima. Strumenti: distribuzione congiunta completa (tabella di $2^n$ valori), marginalizzazione $P(Y\mid e)=\alpha\sum_h P(Y,e,h)$ con costante di normalizzazione $\alpha=1/P(e)$, regola del prodotto $P(a,b)=P(a\mid b)P(b)$, regola di Bayes $P(\text{causa}\mid\text{effetto})=\frac{P(\text{effetto}\mid\text{causa})P(\text{causa})}{P(\text{effetto})}$ e indipendenza condizionata $P(a,b\mid c)=P(a\mid c)P(b\mid c)$, che permette di scomporre la congiunta in tabelle più piccole. Un test con sensibilità 73% e falsi positivi 12% su una malattia con prior 1/700 dà una probabilità a posteriori di appena 0,9%.Incertezza - probabilità, regola di Bayes e indipendenza condizionata →); pensare da solo non genera azione, serve una teoria dell'azione razionale.
- Agire razionalmente = modello standard: fare ciò che si aspetta massimizzi il raggiungimento degli obiettivi date le informazioni; non implica pensare (riflesso), ma il pensiero è al servizio dell'azione. L'agente razionale è autonomo, percepisce, persiste nel tempo, si adatta, crea e persegue obiettivi (Agenti intelligenti - ambienti, PEAS e tipi di agenteUn agente è una funzione dalle sequenze di percezioni alle azioni; è razionale se per ogni sequenza sceglie l'azione che massimizza il valore atteso della misura di prestazione, date le percezioni e la conoscenza incorporata. L'ambiente di lavoro si descrive con PEAS (Performance, Environment, Actuators, Sensors) e si classifica con sette coppie di proprietà (osservabile, deterministico, episodico, statico, discreto, singolo/multi-agente, noto). Le architetture crescono in complessità: reattivo semplice, reattivo basato su modello, basato su obiettivi, basato su utilità, più l'agente che apprende (elemento esecutivo, di apprendimento, critico, generatore di problemi).Agenti intelligenti - ambienti, PEAS e tipi di agente →).
- Radici: filosofia (logica, mente come sistema fisico), matematica (calcolabilità, decidibilità, trattabilità, probabilità), neuroscienze (reti neurali), psicologia (percezione, controllo motorio), linguistica (rappresentazione della conoscenza, NLP), teoria del controllo (cibernetica), economia (utilità, decisioni, teoria dei giochi), ingegneria dei calcolatori (GPU, TPU, IoT).
- Storia: 1943 McCulloch e Pitts (cervello come circuito booleano); 1950 Turing; anni '50 dama di Samuel e Logic Theorist; 1956 Dartmouth (nome "IA"); 1965 risoluzione di Robinson; 1966-73 complessità, fondi tagliati, primo inverno; 1969-79 sistemi esperti; dal 1980 industria; dal 1986 ritorno delle reti neurali; dal 1988 promesse mancate, secondo inverno; 1997 Deep Blue batte Kasparov; 2005 Stanley (DARPA Grand Challenge); 2011 Siri; 2012 deep learning su ImageNet (Deep learning - reti profonde, CNN e addestramento con KerasQuadro del deep learning nel corso di IA. Un neurone calcola la somma pesata degli ingressi e applica una funzione di attivazione non lineare (soglia, sigmoide, ReLU, tanh); un perceptron a soglia realizza AND, OR e NOT ma non lo XOR (non linearmente separabile), che richiede 3 neuroni su due livelli; due livelli bastano per approssimare ogni funzione continua. Uscite: lineare per la regressione, sigmoide per due classi, softmax per più classi, con perdita di entropia incrociata. Addestramento con SGD a minibatch e backpropagation (passaggio in avanti e all'indietro, gradienti che si moltiplicano: svaniscono con sigmoide e tanh). CNN: kernel appreso, stride, padding, uscita (n+2p-k)/s+1, pooling; tensori; transfer learning e dropout. RNN con stato nascosto z_t=f(z_{t-1},x_t) e BPTT, LSTM con porte, autoencoder, VAE, GAN, modelli linguistici e trasformatori con attenzione. Pipeline Keras del laboratorio 11: Sequential, Conv2D, MaxPooling2D, Flatten, Dense, compile (Adam, perdita), fit, evaluate, predict, save.Deep learning - reti profonde, CNN e addestramento con Keras →); 2017 AlphaGo; 2019 Spot; 2022 ChatGPT.
- Benefici: meno lavoro ripetitivo, più produzione, ricerca scientifica più rapida. Rischi: armi autonome letali, privacy e persuasione, bias, occupazione, sicurezza, cybersicurezza.
- Allineamento dei valori: un agente razionale massimizza l'obiettivo che ha, non quello che intendevamo, quindi va scelto con cura; problema del gorilla: gli umani comandano perché più intelligenti, quindi i sistemi vanno progettati a beneficio dell'uomo.
- Esame: quiz Moodle, 2/3 teoria e 1/3 laboratorio; 9 CFU = 6 + 3 domande in 90 minuti; 6 CFU = 4 + 2 in 60 minuti, senza logica e inferenza causale.
- Errori tipici: confondere test di Turing (comportamento) con pensiero; dire che razionale significa "che usa la logica"; dimenticare che la razionalità è relativa all'obiettivo e alle informazioni disponibili; considerare l'IA una tecnologia fissa invece di una frontiera mobile.