Che cosa chiamiamo Intelligenza Artificiale, come funzionano i sistemi che apprendono dai dati e i In questo sito di divulgazione medica, un articolo che tratta di Intelligenza Artificiale potrebbe essere considerato non pertinente; in realt\u00e0 \u00e8 esatto il contrario: l\u2019IA viene sempre pi\u00f9 utilizzata anche in campo medico.<\/p>\n\n\n\n L\u2019IA \u00e8 entrata rapidamente nella nostra vita quotidiana: la utilizziamo, spesso senza rendercene conto, nei motori di ricerca web, nei telefoni cellulari, nella traduzione automatica e in molti programmi che usiamo abitualmente.<\/p>\n\n\n\n Negli ultimi anni, per\u00f2, si \u00e8 verificato uno sviluppo particolare: con la diffusione delle IA generative (ChatGPT, Claude, Gemini, DeepSeek, Grok ecc.) milioni di persone hanno cominciato a interagire direttamente con sistemi capaci di rispondere a domande, scrivere testi, creare immagini, riassumere documenti e sostenere conversazioni sorprendentemente naturali.<\/p>\n\n\n\n Anche in Medicina l\u2019uso di questa tecnologia si sta diffondendo rapidamente: l\u2019IA viene utilizzata, per esempio, per analizzare immagini diagnostiche e tracciati come l\u2019elettrocardiogramma, valutare il rischio di alcune malattie, contribuire alla ricerca di nuovi farmaci, organizzare la documentazione clinica e fornire al medico informazioni utili per prendere decisioni [1\u20133].<\/p>\n\n\n\n Per questo, come webmaster di Sipal.org, mi \u00e8 sembrato opportuno scrivere questa nota descrittiva dell\u2019IA: chi visita le nostre pagine potr\u00e0 trovarla utile per conoscere meglio questa tecnologia, che diventa ogni giorno pi\u00f9 pervasiva nelle nostre attivit\u00e0; porto in questa trattazione la mia esperienza personale: mi occupo professionalmente di informatica da quasi cinquant\u2019anni e, come addetto ai lavori, ho avuto modo di seguirne l\u2019evoluzione, dai sistemi strettamente procedurali agli attuali sistemi di intelligenza artificiale.<\/p>\n\n\n\n <\/p>\n\n\n\n ChatGPT e gli altri sistemi generativi hanno fatto conoscere l\u2019intelligenza artificiale al grande pubblico, e l\u2019hanno resa alla portata di tutti, ma l\u2019IA ha una storia molto pi\u00f9 lunga: da decenni vengono sviluppati programmi capaci di prendere decisioni, riconoscere strutture di varia complessit\u00e0 nei dati, adattare il proprio comportamento a seconda delle informazioni ricevute.<\/p>\n\n\n\n Io ho iniziato ad interessarmi all\u2019IA negli anni Ottanta, utilizzando, da programmatore, i \u201cSistemi Esperti\u201d<\/em>, ma nello stesso periodo si dava molto spazio anche alla \u201clogica fuzzy\u201d<\/em>, che aveva cominciato a svilupparsi a partire dagli anni Sessanta; a differenza della logica aristotelica, nella quale una condizione pu\u00f2 essere soltanto vera o falsa, la logica fuzzy permette di rappresentare condizioni intermedie: qualcosa pu\u00f2 essere, per esempio, poco, abbastanza o molto caldo, anzich\u00e9 semplicemente caldo o non caldo; questa tecnologia trov\u00f2 applicazione soprattutto nei sistemi di controllo automatici e industriali, ma anche in prodotti di uso comune, come le lavatrici, e nelle componenti delle automobili [15,18].<\/p>\n\n\n\n Anche le \u201cReti Neurali\u201d<\/em> hanno una storia molto pi\u00f9 lunga di quanto si potrebbe pensare: i primi modelli matematici di neurone artificiale risalgono agli anni Quaranta e Cinquanta; \u00e8 stato negli anni Ottanta che queste idee conobbero un\u2019importante fase di sviluppo, anche grazie alla diffusione di algoritmi che permettevano alle reti di modificare automaticamente i propri pesi durante l\u2019addestramento [25].<\/p>\n\n\n\n La novit\u00e0 degli ultimi anni, quindi, non \u00e8 la nascita dell\u2019intelligenza artificiale: \u00e8 l\u2019enorme salto di qualit\u00e0 e capacit\u00e0 che i sistemi basati su questa tecnologia hanno compiuto.<\/p>\n\n\n <\/p>\n\n\n\n Con il termine \u201cIntelligenza Artificiale\u201d<\/em> si indicano sistemi informatici in grado di svolgere compiti che, se fossero eseguiti da una persona, richiederebbero \u201cintelligenza\u201d: riconoscere un\u2019immagine, classificare informazioni, fare una previsione, interpretare una richiesta formulata nel linguaggio naturale, produrre un testo [1,2].<\/p>\n\n\n\n Ma bisogna fare molta attenzione: questa definizione descrive ci\u00f2 che il sistema fa, non il modo in cui riesce a farlo; distinguere le due cose \u00e8 essenziale per capire che cosa intendiamo realmente quando parliamo di intelligenza artificiale.<\/p>\n\n\n\n <\/p>\n\n\n\n Per iniziare a capire questa tecnologia bisogna partire da una differenza sostanziale: quella tra un programma (software), nel quale siamo noi programmatori a scrivere le regole operative, e un sistema che ricava dai dati, che deve elaborare, una parte delle regole che gli servono per svolgere il suo compito.<\/p>\n\n\n\n Nella programmazione tradizionale il programmatore stabilisce in anticipo (codifica) la logica che il computer deve seguire; in forma molto semplice: SE si verifica la condizione A, ALLORA esegui la routine B<\/em>.<\/p>\n\n\n\n I Sistemi Esperti, a cui ho accennato poco fa, erano un esempio di questo approccio: la conoscenza specialistica doveva essere trasformata in dati e regole utilizzabili dal programma.<\/p>\n\n\n\n Per esempio: SE il paziente presenta i sintomi A e B, ma non il sintomo C, ALLORA considera l\u2019ipotesi diagnostica D.<\/em><\/p>\n\n\n\n Era una metodologia interessante e stimolante, ma aveva un grosso limite: quelle regole dovevano essere definite dal programmatore con la diretta collaborazione dello specialista della materia che si stava trattando, e poi essere tradotte in un linguaggio di programmazione comprensibile dalla macchina; realizzare sistemi complessi, e mantenerli aggiornati, richiedeva, quindi, un lavoro molto impegnativo e pesante.<\/p>\n\n\n\n Con il \u201cmachine learning\u201d<\/em> (apprendimento automatico), l\u2019approccio cambia radicalmente: invece di fornire alla macchina, in anticipo, tutte le regole necessarie per eseguire il lavoro, adesso le si forniscono moltissimi esempi che, grazie a specifici algoritmi, le permettono di individuare, nei dati da elaborare, le relazioni operative per ottenere il risultato.<\/p>\n\n\n\n In altre parole, con i Sistemi Esperti cercavamo di spiegare alla macchina le regole da seguire; con il machine learning cerchiamo di farle ricavare queste regole dai dati che deve elaborare.<\/p>\n\n\n\n Tra gli strumenti che hanno contribuito maggiormente allo sviluppo del machine learning ci sono le \u201creti neurali artificiali\u201d<\/em> e, in particolare, il \u201cdeep learning\u201d<\/em> [1].<\/p>\n\n\n <\/p>\n\n\n\n Il nome pu\u00f2 trarre in inganno: una rete neurale artificiale non \u00e8 un cervello bionico e un neurone artificiale non \u00e8 la riproduzione al computer di un neurone biologico.<\/p>\n\n\n\n Un neurone artificiale \u00e8, molto semplicemente, una funzione matematica<\/em>: riceve in input dei valori numerici, esegue su di essi dei calcoli e produce un nuovo valore.<\/p>\n\n\n\n Bisogna considerare, per\u00f2, che non tutte le informazioni che il sistema riceve hanno la stessa importanza; per questo, a ciascuna viene opportunamente associato un numero, chiamato \u201cpeso\u201d<\/em>, che stabilisce quanto quell\u2019informazione debba influire sul risultato del calcolo: un peso maggiore aumenta la sua importanza, un peso minore la riduce.<\/p>\n\n\n\n Ovviamente, una sola funzione matematica di questo tipo (neurone) pu\u00f2 fare ben poco: una rete neurale<\/em> \u00e8 quindi costituita da un gran numero di queste funzioni che eseguono i loro calcoli in successione.<\/p>\n\n\n\n I neuroni vengono raggruppati, funzionalmente, in \u201cstrati\u201d<\/em>; con questo termine intendiamo non una vera e propria disposizione fisica, bens\u00ec gruppi di funzioni matematiche che operano nelle diverse fasi dell\u2019elaborazione: i neuroni di un primo strato (fase operativa) ricevono dei valori ed eseguono i loro calcoli; i risultati ottenuti vengono passati come dati in input ai neuroni dello strato successivo che, a loro volta, eseguono nuovi calcoli.<\/p>\n\n\n\n \u00c8 proprio questo passaggio dei risultati da alcune funzioni matematiche alle successive che costituisce il \u201ccollegamento\u201d tra i neuroni; il processo continua attraverso i diversi strati fino a quello finale, che produce il risultato della rete neurale.<\/p>\n\n\n\n Quando tra i dati iniziali e il risultato finale vengono usati, per l\u2019elaborazione, numerosi strati intermedi, si parla di rete neurale profonda, \u201cdeep neural network\u201d<\/em>, da cui deriva l\u2019espressione \u201cdeep learning\u201d<\/em> [1].<\/p>\n\n\n <\/p>\n\n\n\n Anche il termine \u201cimparare\u201d va inteso correttamente.<\/p>\n\n\n\n Dopo essere stata progettata e realizzata, prima che una rete neurale possa essere utilizzata, deve essere sottoposta a una fase nella quale \u201cimpara\u201d, attraverso un gran numero di esempi, a produrre il risultato richiesto: questa fase viene definita \u201caddestramento\u201d<\/em>.<\/p>\n\n\n\n Durante l\u2019addestramento vengono sottoposti alla rete moltissimi esempi dei quali si conosce gi\u00e0 il risultato corretto; per ogni esempio il sistema elabora una risposta e la confronta con quella che ci si aspetta, dopodich\u00e9 un algoritmo, in base all\u2019errore eventualmente commesso, modifica automaticamente i pesi di cui abbiamo parlato in precedenza.<\/p>\n\n\n\n Il procedimento viene ripetuto moltissime volte: modificando progressivamente i pesi, la rete diventa sempre pi\u00f9 precisa nelle risposte e, soprattutto, utilizza sempre meglio ci\u00f2 che ha appreso, anche quando riceve in input dati che non aveva mai incontrato durante l\u2019addestramento.<\/p>\n\n\n\n \u00c8 questo, in termini molto semplificati, ci\u00f2 che si intende per \u201cuna rete neurale impara\u201d<\/em>: il programmatore non ha scritto, una per una, le regole necessarie per arrivare al risultato: \u00e8 la rete che, attraverso l\u2019addestramento, ha modificato progressivamente i propri parametri operativi sulla base degli esempi che le sono stati forniti.<\/p>\n\n\n <\/p>\n\n\n\n Abbiamo visto che le idee alla base dell\u2019intelligenza artificiale non sono cos\u00ec recenti; perch\u00e9, allora, soltanto negli ultimi anni ci sono stati progressi cos\u00ec rapidi?<\/p>\n\n\n\n I motivi sono molteplici: sono cresciute contemporaneamente la potenza dei computer, l\u2019efficacia degli algoritmi e la quantit\u00e0 di dati disponibili per l\u2019apprendimento.<\/p>\n\n\n\n La maggiore potenza di calcolo ha permesso di costruire e addestrare reti neurali sempre pi\u00f9 grandi e complesse, eseguendo in tempi brevissimi quantit\u00e0 di calcoli che in passato sarebbero state difficilmente affrontabili; nello stesso tempo sono profondamente migliorati gli algoritmi e le tecniche utilizzate per l\u2019addestramento.<\/p>\n\n\n\n Ma serviva anche un\u2019altra cosa: i dati.<\/p>\n\n\n\n L\u2019enorme sviluppo di Internet, e la progressiva digitalizzazione delle nostre attivit\u00e0 (diffuse in rete), hanno reso disponibili quantit\u00e0 enormi di testi, immagini, suoni, video e molte altre informazioni che possono essere utilizzate per addestrare questi sistemi [1,3].<\/p>\n\n\n\n \u00c8 la disponibilit\u00e0 contemporanea di questi tre elementi \u201cpotenza di calcolo, algoritmi pi\u00f9 efficaci e grandi quantit\u00e0 di dati\u201d che ha reso possibile costruire sistemi molto pi\u00f9 grandi, complessi ed efficienti rispetto al passato e ha determinato la straordinaria evoluzione dell\u2019intelligenza artificiale degli ultimi anni.<\/p>\n\n\n\n <\/p>\n\n\n\n La pratica medica genera ogni giorno un\u2019enorme quantit\u00e0 di informazioni: immagini radiologiche, campioni istologici, elettrocardiogrammi, risultati delle analisi di laboratorio, dati genomici, fotografie dermatologiche, cartelle cliniche; per questo rappresenta un campo di elezione per l\u2019impiego di sistemi informatici potenti, in grado di analizzare grandi quantit\u00e0 di dati e individuarvi peculiarit\u00e0 che spesso l\u2019uomo non riesce a rilevare [2].<\/p>\n\n\n\n Un paio di esempi di risultati notevoli ottenuti in campo medico:<\/p>\n\n\n\n Sono esempi importanti, perch\u00e9 mostrano che una macchina pu\u00f2 raggiungere prestazioni molto elevate in attivit\u00e0 mediche specifiche.<\/p>\n\n\n\n Ma anche qui bisogna fare molta attenzione: un sistema che raggiunge prestazioni paragonabili, o addirittura superiori, a quelle di un medico, in uno specifico compito, non \u00e8 per questo diventato un medico: ha soltanto svolto molto bene quel lavoro.<\/p>\n\n\n <\/p>\n\n\n\n Fin qui abbiamo parlato di sistemi che classificano o prevedono.<\/p>\n\n\n\n Con i \u201cLarge Language Models\u201d<\/em> (LLM), i grandi modelli linguistici, sui quali sono basati i sistemi come ChatGPT, entriamo invece nel campo dell\u2019elaborazione e della generazione del linguaggio.<\/p>\n\n\n\n Durante l\u2019addestramento, un LLM analizza enormi quantit\u00e0 di testo, che viene trattato come una sequenza di elementi, chiamati \u201ctoken\u201d<\/em>.<\/p>\n\n\n\n I token possono essere costituiti da una parola intera, da una parte di parola, da un numero, da un segno di punteggiatura, da un simbolo [9,14].<\/p>\n\n\n\n Uno dei meccanismi fondamentali dell\u2019addestramento di queste specifiche reti neurali consiste nell\u2019imparare a prevedere quale token possa seguire quelli che lo precedono.<\/p>\n\n\n\n Per sottolineare la natura statistica di questo processo, nel 2021 Emily Bender (docente di Linguistica Computazionale all\u2019Universit\u00e0 di Washington) e altri ricercatori utilizzarono l\u2019espressione \u201cpappagalli stocastici\u201d<\/em> [14].<\/p>\n\n\n\n Stocastico significa, in ambiente matematico-informatico, che il sistema opera sulla base di probabilit\u00e0; il riferimento al pappagallo vuole sottolineare che pu\u00f2 produrre testi in un linguaggio sorprendentemente simile a quello umano, senza che ci\u00f2 implichi, da parte sua, una comprensione del loro significato paragonabile a quella umana.<\/p>\n\n\n\n L\u2019espressione \u00e8 suggestiva (e divertente!), ma, a mio parere, pu\u00f2 essere anche riduttiva: potrebbe infatti far pensare che un LLM cerchi nei testi utilizzati per l\u2019addestramento frasi gi\u00e0 esistenti, per poi combinarle e riproporle.<\/p>\n\n\n\n Ma non \u00e8 questo ci\u00f2 che avviene!<\/p>\n\n\n\n Durante l\u2019addestramento il sistema analizza un\u2019enorme quantit\u00e0 di testi e, attraverso questo processo, modifica progressivamente i pesi di cui abbiamo parlato in precedenza; in questo modo la rete apprende le relazioni presenti nei testi e acquisisce la capacit\u00e0 di utilizzarle anche di fronte a richieste nuove.<\/p>\n\n\n\n Non mantiene, quindi, una raccolta di frasi da recuperare e riutilizzare: ci\u00f2 che ha appreso \u00e8 rappresentato dalle modifiche apportate ai suoi pesi durante l\u2019addestramento.<\/p>\n\n\n\n E allora, quando successivamente genera una risposta, non cerca semplicemente una frase gi\u00e0 scritta da qualcuno per copiarla o combinarla con altre: costruisce il testo progressivamente, token dopo token, sulla base delle relazioni apprese durante l\u2019addestramento e delle informazioni presenti nella conversazione.<\/p>\n\n\n\n \u00c8 proprio questo che gli permette, per esempio, non soltanto di completare una frase, ma anche di riassumere un testo che gli abbiamo appena fornito, spiegarne il contenuto con parole diverse, confrontarlo con un altro testo, rispondere a una nostra obiezione o modificare una spiegazione quando gli diciamo che non \u00e8 chiara.<\/p>\n\n\n <\/p>\n\n\n\n La caratteristica che ha reso gli LLM immediatamente accessibili a milioni di persone \u00e8 evidente: possiamo comunicare con loro usando il nostro linguaggio umano.<\/p>\n\n\n\n Non \u00e8 necessario conoscere SQL, un linguaggio di programmazione o una particolare sintassi: possiamo formulare una domanda, sottoporre un problema, chiedere un aiuto tecnico o replicare a una risposta proprio come faremmo conversando con una persona.<\/p>\n\n\n\n Un LLM pu\u00f2 cos\u00ec riassumere o riformulare un documento, tradurre un testo, spiegare lo stesso concetto in differenti modi, confrontare informazioni, aiutare nella scrittura e tenere conto di ci\u00f2 che \u00e8 stato detto in precedenza nella conversazione.<\/p>\n\n\n\n <\/p>\n\n\n\n Avendo lavorato per molti anni con le basi di dati, mi sembra utile sottolineare una differenza fondamentale tra interrogare un database e porre una domanda a un LLM.<\/p>\n\n\n\n In un database i dati sono memorizzati in modo strutturato; se, per esempio, chiedo la data di nascita di una persona, il programma cerca il valore registrato nel campo corrispondente: se lo trova, lo restituisce, se non lo trova, segnala che quel dato non \u00e8 presente.<\/p>\n\n\n\n Quando pongo la stessa domanda a un LLM avviene qualcosa di profondamente diverso: il sistema non consulta necessariamente un archivio nel quale pu\u00f2 essere registrata quella data, ma genera una risposta sulla base di ci\u00f2 che ha appreso durante l\u2019addestramento e delle informazioni che ha a disposizione in quel momento.<\/p>\n\n\n\n La differenza \u00e8 importante: il database recupera un dato che \u00e8 stato memorizzato, un LLM, invece, genera una risposta, e pu\u00f2 produrla anche quando non dispone di informazioni sufficienti per \u201cfornirla correttamente\u201d<\/em> (ne parleremo in dettaglio pi\u00f9 avanti!).<\/p>\n\n\n\n Oltre alle informazioni apprese durante l\u2019addestramento, un LLM pu\u00f2 anche utilizzare informazioni provenienti da fonti esterne, come banche dati, raccolte di documenti o motori di ricerca; in questo caso le informazioni presenti nelle fonti esterne vengono fornite all\u2019LLM come ulteriore materiale da utilizzare per generare la risposta.<\/p>\n\n\n\n <\/p>\n\n\n\n Le possibilit\u00e0 dell\u2019intelligenza artificiale, quindi, sono notevoli, ma per utilizzarla correttamente bisogna capire anche in quali modi pu\u00f2 produrre risultati sbagliati.<\/p>\n\n\n\n Non tutti gli errori hanno la stessa origine: un LLM pu\u00f2 generare una risposta inattendibile, un sistema pu\u00f2 aver imparato dai dati una relazione sbagliata o una distorsione concettuale, oppure pu\u00f2 essere utilizzato intenzionalmente da una persona per costruire informazioni fraudolente.<\/p>\n\n\n\n <\/p>\n\n\n\n Un LLM pu\u00f2 produrre informazioni inesatte o completamente inventate, formulate per\u00f2 in modo perfettamente plausibile: \u00e8 il fenomeno conosciuto come \u201challucination\u201d<\/em> (allucinazione) [8,9].<\/p>\n\n\n\n Il problema \u00e8 particolarmente insidioso, perch\u00e9 un sistema generativo, come ChatGPT, riesce a formulare una risposta precisa, ben strutturata e convincente anche quando contiene informazioni sbagliate, e spesso non c\u2019\u00e8 nulla, nella forma della risposta, che permetta all\u2019utente di accorgersi dell\u2019errore.<\/p>\n\n\n\n Pu\u00f2 persino inventare il titolo di un articolo scientifico, gli autori, il nome della rivista e un riferimento bibliografico che sembra autentico [8,9].<\/p>\n\n\n <\/p>\n\n\n\n Un altro tipo di errore ha un\u2019origine diversa: non nasce nel momento in cui il sistema produce la risposta, ma da ci\u00f2 che ha imparato durante l\u2019addestramento.<\/p>\n\n\n\n Immaginiamo di addestrare un sistema a distinguere, in fotografia, un cane da un lupo.<\/p>\n\n\n\n Se, nelle foto utilizzate per l\u2019addestramento, i lupi fossero fotografati quasi sempre sulla neve e i cani quasi sempre in altri ambienti, il sistema potrebbe trovare una scorciatoia: utilizzare la presenza della neve come indizio per riconoscere il lupo, invece di basarsi sulle caratteristiche dei due animali.<\/p>\n\n\n\n Perci\u00f2, se nel lavoro quotidiano deve trattare immagini simili a quelle utilizzate per addestrarlo, darebbe risposte impeccabili; ma, davanti alla fotografia di un cane sulla neve, rischierebbe di confonderlo con un lupo!<\/p>\n\n\n\n Il sistema pu\u00f2, quindi, classificare correttamente molte immagini, ma per la ragione sbagliata: nell\u2019esempio precedente, potrebbe riconoscere il lupo soprattutto dalla presenza della neve, anzich\u00e9 dalle caratteristiche proprie dell\u2019animale.<\/p>\n\n\n\n Questo fenomeno \u00e8 noto come \u201cshortcut learning\u201d<\/em> [16].<\/p>\n\n\n\n Un problema simile pu\u00f2 verificarsi in Medicina ed avere conseguenze molto pi\u00f9 serie: un sistema addestrato a riconoscere una malattia nelle immagini diagnostiche potrebbe imparare a utilizzare, insieme ai veri segni della malattia, anche alcune caratteristiche legate all\u2019apparecchiatura utilizzata o all\u2019ospedale da cui provengono le immagini; otterrebbe, quindi, ottimi risultati in condizioni di lavoro simili a quelle dell\u2019addestramento, ma sarebbe meno affidabile se utilizzato con apparecchiature diverse o in altri ospedali.<\/p>\n\n\n <\/p>\n\n\n\n Il sistema pu\u00f2 apprendere correttamente ci\u00f2 che trova nei dati, ma essere comunque portato a generare conclusioni distorte: questo accade quando i dati stessi rappresentano male la realt\u00e0.<\/p>\n\n\n\n Un esempio eclatante riguarda un sistema sperimentale sviluppato da Amazon per la selezione del personale: era stato addestrato prevalentemente sui curricula ricevuti dall\u2019azienda negli anni precedenti, in gran parte provenienti da uomini, e questa distorsione lo port\u00f2 a penalizzare alcuni elementi associati alle candidate donne. Nessuno aveva programmato una regola del tipo \u201cpreferisci gli uomini alle donne\u201d: la distorsione emergeva dai dati utilizzati per l\u2019addestramento e, di conseguenza, il progetto dovette essere abbandonato [17].<\/p>\n\n\n\n Questo problema \u00e8 particolarmente importante quando si impiegano reti neurali in medicina.<\/p>\n\n\n\n Nei dati utilizzati per l\u2019addestramento possono essere presenti degli squilibri: alcuni gruppi di pazienti, con particolari caratteristiche, possono essere poco rappresentati; i dati possono provenire prevalentemente da determinate aree geografiche, strutture sanitarie o fasce di popolazione; possono, inoltre, essere viziati da differenze esistenti nell\u2019accesso alle cure, nelle diagnosi e nei trattamenti ricevuti dai diversi gruppi di pazienti.<\/p>\n\n\n\n Per questo non basta sapere quanti dati siano stati utilizzati: bisogna anche verificare da quali pazienti provengano e se rappresentino adeguatamente tutte le persone sulle quali il sistema verr\u00e0 utilizzato.<\/p>\n\n\n\n L\u2019intelligenza artificiale non conosce la realt\u00e0: impara dalla rappresentazione della realt\u00e0 contenuta nei dati che le vengono forniti nell\u2019addestramento; se quella rappresentazione \u00e8 incompleta o distorta, anche ci\u00f2 che il sistema impara sar\u00e0 incompleto o distorto.<\/p>\n\n\n\n Nell\u2019addestramento, la quantit\u00e0 dei dati forniti \u00e8 importante, ma la loro qualit\u00e0 e la loro rappresentativit\u00e0 lo sono forse di pi\u00f9.<\/p>\n\n\n\n <\/p>\n\n\n\n C\u2019\u00e8 infine un problema analogo ma di natura profondamente diversa: l\u2019IA pu\u00f2 essere utilizzata deliberatamente per costruire informazioni fraudolente.<\/p>\n\n\n\n Anche un articolo pubblicato il 14 settembre 2026 sul Corriere della Sera (edizione web) ha richiamato l\u2019attenzione su diversi possibili usi impropri dell\u2019IA nella produzione scientifica, tra cui testi e immagini manipolati, riferimenti bibliografici inesistenti e dati artificiali presentati come reali [23].<\/p>\n\n\n\n La possibilit\u00e0 di utilizzare un LLM per fabbricare, intenzionalmente, dati medici fittizi \u00e8 stata documentata direttamente anche nella letteratura scientifica: in una Research Letter pubblicata nel 2023 su JAMA Ophthalmology, Taloni, Scorcia e Giannaccare mostrarono che GPT-4 con Advanced Data Analysis poteva generare un dataset fittizio costruito per soddisfare criteri statistici stabiliti in anticipo [24].<\/p>\n\n\n\n Gli autori sottolinearono il rischio che strumenti di questo tipo possano essere utilizzati impropriamente per fabbricare dati di ricerca artefatti, e richiamarono la necessit\u00e0 di rafforzare i controlli sull\u2019autenticit\u00e0 dei dati [24].<\/p>\n\n\n\n \u00c8 importante distinguere questo caso dall\u2019allucinazione: nell\u2019allucinazione l\u2019LLM genera autonomamente una risposta falsa presentandola come verosimile; nella frode, invece, \u00e8 una persona che utilizza deliberatamente la capacit\u00e0 generativa del sistema per costruire un falso da far passare per vero.<\/p>\n\n\n\n <\/p>\n\n\n\n A rendere ulteriormente delicato il problema c\u2019\u00e8 il fatto che non \u00e8 facile capire perch\u00e9 una grande rete neurale sia arrivata a una determinata conclusione.<\/p>\n\n\n\n In un programma tradizionale possiamo esaminare il codice (le regole scritte dal programmatore) e ricostruire il percorso che ha portato al risultato; in una grande rete neurale, invece, ci\u00f2 che il sistema ha appreso \u00e8 distribuito tra un numero enorme di parametri e nelle loro relative interazioni: \u00e8 quello che viene definito \u201cil problema della black box\u201d<\/em>, la \u201cscatola nera\u201d<\/em>.<\/p>\n\n\n\n Questo problema diventa particolarmente importante e delicato quando il sistema ha imparato qualcosa di sbagliato: in questo caso pu\u00f2 essere difficile capire quali informazioni abbia realmente utilizzato per arrivare alla sua risposta.<\/p>\n\n\n\n Nel 2025 il consorzio internazionale FUTURE-AI ha pubblicato delle linee guida per un\u2019intelligenza artificiale affidabile e utilizzabile nella pratica sanitaria, basate su sei principi: \u201cfairness, universality, traceability, usability, robustness ed explainability\u201d<\/em> (equit\u00e0, universalit\u00e0, tracciabilit\u00e0, usabilit\u00e0, robustezza e spiegabilit\u00e0) [7].<\/p>\n\n\n\n Non basta quindi che un algoritmo \u201cfunzioni\u201d: \u00e8 necessario sapere quanto funziona, su quali pazienti, in quali condizioni e con quali possibilit\u00e0 di errore.<\/p>\n\n\n <\/p>\n\n\n\n I problemi che abbiamo descritto hanno origini diverse e non possono essere prevenuti tutti nello stesso modo; \u00e8 necessario controllare la qualit\u00e0 dei dati utilizzati per l\u2019addestramento, verificare che siano congruenti al compito da svolgere e testare il comportamento del sistema anche in condizioni diverse da quelle nelle quali \u00e8 stato sviluppato.<\/p>\n\n\n\n Nel caso degli LLM, una delle tecniche utilizzate per ridurre il rischio di risposte non fondate, o addirittura inventate, consiste nel ricorrere a fonti esterne verificate, come detto in precedenza: questa tecnica prende il nome di \u201cRetrieval-Augmented Generation\u201d<\/em> (RAG) [13].<\/p>\n\n\n\n In campo medico \u00e8 particolarmente importante che le fonti utilizzate siano affidabili e aggiornate.<\/p>\n\n\n\n La RAG pu\u00f2 ridurre il rischio che l\u2019LLM produca informazioni prive di fondamento, ma non garantisce che la risposta sia sempre corretta.<\/p>\n\n\n\n Il livello di controllo da applicare \u00e8 anche in funzione dell\u2019uso che facciamo dell\u2019intelligenza artificiale: se chiediamo a un LLM di migliorare lo stile di una lettera, un eventuale errore sar\u00e0 generalmente facile da riconoscere e avr\u00e0 conseguenze modeste; se invece gli chiediamo informazioni dalle quali possono dipendere decisioni importanti, la verifica deve essere molto pi\u00f9 rigorosa.<\/p>\n\n\n\n Quanto pi\u00f9 un errore pu\u00f2 avere conseguenze importanti, tanto pi\u00f9 accuratamente deve essere verificata la risposta.<\/p>\n\n\n\n <\/p>\n\n\n\n A questo punto possiamo affrontare una delle domande (o, forse, \u201cla domanda\u201d) che rendono cos\u00ec affascinanti gli attuali sistemi generativi: l\u2019IA pensa?<\/strong><\/p>\n\n\n\n Interagendo con un chatbot possiamo avere l\u2019impressione che, dall\u2019altra parte dello schermo, ci sia qualcuno che segue il nostro ragionamento: il sistema utilizza le informazioni fornite nei messaggi precedenti, risponde alle nostre obiezioni e pu\u00f2 modificare una spiegazione quando gli diciamo che non \u00e8 chiara.<\/p>\n\n\n\n Di fronte a comportamenti di questo genere ci viene naturale dire che il sistema \u201ccapisce\u201d, \u201cpensa\u201d, \u201csa\u201d, \u201cdecide\u201d: sono le stesse parole che utilizziamo quando parliamo di una persona.<\/p>\n\n\n\n Ma parole come \u201ccapire\u201d o \u201cpensare\u201d assumono un significato diverso quando le riferiamo a una persona o a un sistema di intelligenza artificiale: quando diciamo che una persona \u201ccomprende\u201d, intendiamo che ci\u00f2 di cui parla ha per lei un significato legato alla sua conoscenza del mondo e alla sua esperienza.<\/p>\n\n\n\n Un sistema di intelligenza artificiale, invece, pu\u00f2 produrre risposte appropriate e svolgere compiti anche molto complessi, ma questo non significa che abbia una comprensione paragonabile alla nostra.<\/p>\n\n\n\n La differenza fra ci\u00f2 che un sistema IA sa produrre e ci\u00f2 che pu\u00f2 dare l\u2019impressione di \u201cprovare\u201d diventa particolarmente evidente quando parliamo di emozioni.<\/p>\n\n\n\n Un chatbot pu\u00f2 dire a un utente: \u00abComprendo quanto questa situazione possa essere difficile per te\u00bb.<\/em> La frase pu\u00f2 essere appropriata, empatica e perfino rassicurante, ma questo non significa che il sistema provi realmente preoccupazione o compassione.<\/p>\n\n\n\n Uno studio pubblicato nel 2023 su JAMA Internal Medicine<\/em> aiuta a comprendere bene questa distinzione [6]. I ricercatori confrontarono le risposte date da alcuni medici a 195 domande pubblicate nella comunit\u00e0 r\/AskDocs di Reddit (una piattaforma online organizzata in comunit\u00e0 di discussione tematica) con le risposte generate da ChatGPT.<\/p>\n\n\n\n Nelle 585 valutazioni effettuate, i valutatori preferirono la risposta del chatbot nel 78,6% dei casi, giudicandola, in quello specifico contesto, migliore per qualit\u00e0 ed empatia rispetto alla risposta data dai medici.<\/p>\n\n\n\n Il dato \u00e8 estremamente interessante e indicativo: mostra che una macchina pu\u00f2 produrre una risposta che un essere umano percepisce come empatica, non che la macchina effettivamente provi empatia.<\/strong><\/p>\n\n\n <\/p>\n\n\n\n La questione della creativit\u00e0 \u00e8, forse, pi\u00f9 complessa.<\/p>\n\n\n\n I sistemi generativi possono produrre immagini che prima non esistevano, scrivere racconti e poesie, comporre musica, inventare metafore e proporre soluzioni che non sono state fornite durante la fase di addestramento: dire semplicemente che l\u2019IA \u201ccopia\u201d sarebbe quindi riduttivo.<\/p>\n\n\n\n Ma anche in questo caso dobbiamo chiarire che cosa intendiamo per creativit\u00e0.<\/p>\n\n\n\n Se consideriamo frutto della creativit\u00e0 qualcosa di nuovo, originale e interessante, allora anche ci\u00f2 che viene prodotto dall\u2019IA pu\u00f2 soddisfare questi criteri.<\/p>\n\n\n\n Se invece con creativit\u00e0 intendiamo un processo di produzione intellettiva legato a intenzioni, esperienze personali, emozioni, desideri e motivazioni, allora la questione cambia.<\/p>\n\n\n\n Un sistema artificiale pu\u00f2 scrivere una poesia che parli della morte senza avere coscienza che morir\u00e0; pu\u00f2 descrivere un innamoramento senza averlo mai provato; pu\u00f2 raccontare la nostalgia senza avere ricordi personali.<\/p>\n\n\n\n Il risultato pu\u00f2 essere bello e suggestivo, ma il processo che lo ha prodotto non \u00e8 l\u2019esperienza creativa di una persona!<\/p>\n\n\n <\/p>\n\n\n\n Ho letto alcuni mesi fa \u201cL\u2019inganno dell\u2019intelligenza artificiale\u201d, della linguista computazionale Emily M. Bender e della sociologa Alex Hanna: le autrici hanno una posizione fortemente critica nei confronti dell\u2019IA e mettono in guardia contro l\u2019entusiasmo che spesso ne accompagna lo sviluppo e la diffusione, il cosiddetto “hype”<\/em> [12].<\/p>\n\n\n\n Anche se non condivido completamente la posizione di Bender e Hanna, considero molto importante il loro invito a guardare con spirito critico ci\u00f2 che l\u2019intelligenza artificiale \u00e8 realmente in grado di fare, senza lasciarsi condizionare dall\u2019impressione prodotta dai suoi risultati.<\/p>\n\n\n\n Questa contrapposizione tra entusiasmo e diffidenza nei confronti di una nuova tecnologia mi ha fatto tornare in mente \u201cApocalittici e integrati\u201d, saggio pubblicato da Umberto Eco nel 1964.<\/p>\n\n\n\n Ovviamente Eco non parlava di intelligenza artificiale (non era ancora tempo!), ma analizzava due atteggiamenti opposti di fronte alla cultura di massa e ai nuovi mezzi di comunicazione: da una parte chi ne vedeva soprattutto i pericoli, dall\u2019altra chi tendeva ad accoglierli con entusiasmo [20].<\/p>\n\n\n\n A distanza di oltre sessant\u2019anni, quella contrapposizione si adatta senz\u2019altro anche al dibattito sull\u2019intelligenza artificiale: anche oggi troviamo chi la considera soprattutto una minaccia e chi, al contrario, \u00e8 entusiastico utilizzatore delle sue capacit\u00e0, che considera quasi illimitate.<\/p>\n\n\n\n Credo che l\u2019atteggiamento pi\u00f9 ragionevole sia evitare entrambe le posizioni: conoscere i limiti dell\u2019IA non significa negarne le possibilit\u00e0, cos\u00ec come riconoscerne le capacit\u00e0 non significa attribuirle qualit\u00e0 che non possiede.<\/p>\n\n\n <\/p>\n\n\n\n L\u2019Organizzazione Mondiale della Sanit\u00e0 (WHO) riconosce le potenzialit\u00e0 dell\u2019intelligenza artificiale nella diagnosi, nel trattamento medico, nella ricerca, nello sviluppo dei farmaci e nell\u2019organizzazione del servizio sanitario, ma insiste sulla necessit\u00e0 di governarne l\u2019uso [10].<\/p>\n\n\n\n Nelle linee guida del 2021 individua sei principi fondamentali: tutela dell\u2019autonomia umana; promozione del benessere, della sicurezza e dell\u2019interesse pubblico; trasparenza, spiegabilit\u00e0 e intelligibilit\u00e0; responsabilit\u00e0; inclusivit\u00e0 ed equit\u00e0; sostenibilit\u00e0 e capacit\u00e0 di risposta<\/em> [10].<\/p>\n\n\n\n Con la diffusione dell\u2019IA generativa il problema si \u00e8 ampliato: la WHO ha elaborato una guida specifica ai Large Multi-Modal Models, sistemi capaci di ricevere e produrre informazioni di tipo diverso, come testi e immagini [11].<\/p>\n\n\n\n Tra i problemi affrontati ci sono l\u2019accuratezza delle informazioni, le distorsioni (bias), la tutela dei dati, la sicurezza e il rischio di affidarsi eccessivamente alle indicazioni generate dai sistemi IA.<\/p>\n\n\n\n Il messaggio di fondo \u00e8 semplice: l\u2019IA pu\u00f2 essere utile alla medicina, ma deve essere sviluppata e utilizzata mettendo al centro sicurezza, diritti dei pazienti e responsabilit\u00e0 degli operatori sanitari.<\/p>\n\n\n\n <\/p>\n\n\n\n Anche il legislatore ha iniziato a tradurre questi principi in normativa: nell\u2019Unione Europea l\u2019\u201dAI Act\u201d<\/em> prevede, per i sistemi classificati ad alto rischio, requisiti particolarmente rigorosi in materia di gestione dei rischi, qualit\u00e0 dei dati, tracciabilit\u00e0, sorveglianza umana, accuratezza e sicurezza [21].<\/p>\n\n\n\n Per l\u2019utente italiano \u00e8 molto importante la legge n. 132 del 2025, che prescrive specifiche regole per l\u2019impiego dell\u2019intelligenza artificiale in sanit\u00e0: la norma stabilisce che il paziente debba essere informato quando vengono utilizzate tecnologie di IA e che i sistemi e i dati impiegati debbano essere affidabili, periodicamente verificati e aggiornati per ridurre il rischio di errori [22].<\/p>\n\n\n\n Soprattutto, stabilisce un principio molto chiaro: l\u2019intelligenza artificiale pu\u00f2 costituire un valido aiuto nella prevenzione, nella diagnosi, nella cura e nella scelta terapeutica, ma la decisione rimane, sempre e comunque, affidata al medico [22].<\/p>\n\n\n\n <\/p>\n\n\n\n Che l\u2019intelligenza artificiale in medicina non sia pi\u00f9 soltanto una prospettiva futura lo dimostra anche l\u2019attivit\u00e0 della Food and Drug Administration (FDA) americana.<\/p>\n\n\n\n La FDA redige e mantiene un elenco di dispositivi medici che incorporano tecnologie di intelligenza artificiale e che sono stati autorizzati alla commercializzazione negli Stati Uniti; si tratta di sistemi destinati a impieghi specifici in diversi settori della medicina, molti dei quali riguardano l\u2019analisi e l\u2019interpretazione di immagini diagnostiche [19].<\/p>\n\n\n\n \u00c8 importante capire bene che cosa significa questa autorizzazione: la FDA precisa che i dispositivi presenti nell\u2019elenco hanno seguito i percorsi regolatori previsti e soddisfatto i requisiti richiesti per la loro commercializzazione, che comprendono la valutazione della sicurezza e dell\u2019efficacia rispetto all\u2019impiego per il quale sono stati proposti [19].<\/p>\n\n\n\n L\u2019autorizzazione, quindi, non riguarda genericamente \u201cl\u2019intelligenza artificiale\u201d, bens\u00ec uno specifico dispositivo destinato a uno specifico impiego; non significa che qualsiasi applicazione dell\u2019IA in medicina sia sicura, n\u00e9 che possa essere utilizzata al di fuori delle condizioni per le quali \u00e8 stata valutata o senza un adeguato controllo professionale.<\/p>\n\n\n\n Questo aspetto \u00e8 particolarmente importante perch\u00e9 aiuta a distinguere due realt\u00e0 che nel dibattito sull\u2019intelligenza artificiale vengono talvolta confuse: da una parte ci sono i sistemi generativi di uso generale, come ChatGPT; dall\u2019altra, esistono dispositivi medici che utilizzano tecnologie di IA per svolgere compiti ben definiti e che, prima di essere immessi sul mercato, sono sottoposti a uno specifico percorso regolatorio.<\/p>\n\n\n\n L\u2019esistenza di questi dispositivi dimostra quindi qualcosa di molto concreto: l\u2019intelligenza artificiale \u00e8 gi\u00e0 passata, in numerose applicazioni mediche, dalla ricerca alla pratica clinica regolamentata.<\/p>\n\n\n\n <\/p>\n\n\n\n \u00c8 una domanda che viene posta sempre pi\u00f9 spesso e con sempre maggiore inquietudine, ma \u00e8 una domanda non appropriata.<\/p>\n\n\n\n Un computer pu\u00f2 elaborare in pochi secondi quantit\u00e0 di dati che nessun essere umano potrebbe trattare nello stesso tempo; pu\u00f2 confrontare migliaia di immagini, individuare associazioni tra dati difficilmente percepibili dall\u2019uomo e ripetere lo stesso calcolo milioni di volte senza stancarsi: sono capacit\u00e0 reali e bisogna apprezzarle.<\/p>\n\n\n\n Ma il medico non riceve in ambulatorio un insieme di variabili: riceve una persona.<\/p>\n\n\n\n Deve raccoglierne la storia, valutare informazioni incomplete o contraddittorie, interpretare sintomi che non sempre sono chiaramente classificabili, considerare altre malattie concomitanti (comorbidit\u00e0), terapie, condizioni familiari e sociali, stili di vita e paure; e alla fine deve assumersi la responsabilit\u00e0 di una decisione.<\/p>\n\n\n\n Questa differenza \u00e8 fondamentale e deve sempre essere tenuta presente da chi utilizza direttamente sistemi come ChatGPT: un LLM pu\u00f2 essere utile per comprendere meglio un termine medico, un referto o un argomento sanitario, ma non deve essere utilizzato per formulare autonomamente una diagnosi su s\u00e9 stessi n\u00e9 per decidere di iniziare, modificare o sospendere una terapia.<\/p>\n\n\n\n Questo non significa contrapporre il medico all\u2019intelligenza artificiale: nel 2019 Eric Topol parlava di \u201chigh-performance medicine\u201d<\/em>, che deriva dalla collaborazione tra intelligenza umana e artificiale [3].<\/p>\n\n\n\n \u00c8 sicuramente questo l\u2019atteggiamento pi\u00f9 appropriato: non chiedere alla macchina di diventare un medico, n\u00e9 chiedere al medico di competere con una macchina nella velocit\u00e0 di elaborazione delle informazioni; ciascuno va impiegato per ci\u00f2 che sa fare meglio.<\/p>\n\n\n <\/p>\n\n\n\n Dopo tanti anni di lavoro nell\u2019informatica, gli attuali sistemi di intelligenza artificiale mi sembrano, allo stesso tempo, familiari e sorprendenti.<\/p>\n\n\n\n Familiari, perch\u00e9 dietro l\u2019apparente naturalezza della conversazione con i chatbot, ci sono sempre matematica, algoritmi e dati.<\/p>\n\n\n\n Sorprendenti, perch\u00e9 oggi questi sistemi riescono a svolgere compiti che era difficile immaginare alcuni decenni fa, quando lavoravamo con attrezzature che oggi farebbero sorridere.<\/p>\n\n\n\n \u00c8 proprio questo contrasto che trovo particolarmente interessante: strumenti, costruiti su principi che conosco da sempre, sono arrivati a produrre risultati che un tempo non avrei neanche immaginato. <\/p>\n\n\n\n Riconoscerne le notevoli capacit\u00e0, tuttavia, non significa attribuire loro un modo di pensare simile al nostro.<\/p>\n\n\n\n E a questo punto credo sia appropriato tirare una linea conclusiva: un sistema di intelligenza artificiale pu\u00f2 analizzare una poesia, spiegarla, imitarne lo stile e persino generare versi capaci di emozionarci; ma non prova l\u2019emozione che quei versi descrivono.<\/p>\n\n\n\n Pu\u00f2 scrivere parole che esprimono lo stupore di fronte all\u2019immensit\u00e0 e alla bellezza del creato, ma soltanto un essere umano pu\u00f2, come Ungaretti, vivere quell\u2019emozione ed esprimerla mirabilmente dicendo:<\/p>\n\n\n\n \u00abM\u2019illumino d\u2019immenso\u00bb.<\/em><\/strong><\/p>\n\n\n <\/p>\n\n\n\n Corrado Ferracci<\/p>\n\n\n\n gi\u00e0 Funzionario Tecnico e Responsabile Sviluppo Software<\/em> <\/p>\n\n\n\n Nota sulle immagini:<\/strong> tutte le immagini e le infografiche presenti nell\u2019articolo sono state generate mediante sistemi di intelligenza artificiale, sulla base di mie indicazioni e dei contenuti sviluppati nel testo.<\/p>\n\n\n\n <\/p>\n\n\n\n 1. LeCun Y, Bengio Y, Hinton G. \u201cDeep learning\u201d. Nature. 2015;521:436\u2013444. doi:10.1038\/nature14539.<\/p>\n\n\n\n 2. Rajpurkar P, Chen E, Banerjee O, Topol EJ. \u201cAI in health and medicine\u201d. Nat Med. 2022;28:31\u201338. doi:10.1038\/s41591-021-01614-0.<\/p>\n\n\n\n 3. Topol EJ. \u201cHigh-performance medicine: the convergence of human and artificial intelligence\u201d. Nat Med. 2019;25:44\u201356. doi:10.1038\/s41591-018-0300-7.<\/p>\n\n\n\n 4. Gulshan V, Peng L, Coram M, et al. \u201cDevelopment and Validation of a Deep Learning Algorithm for Detection of Diabetic Retinopathy in Retinal Fundus Photographs\u201d. JAMA. 2016;316(22):2402\u20132410. doi:10.1001\/jama.2016.17216.<\/p>\n\n\n\n 5. Esteva A, Kuprel B, Novoa RA, et al. \u201cDermatologist-level classification of skin cancer with deep neural networks\u201d. Nature. 2017;542:115\u2013118. doi:10.1038\/nature21056.<\/p>\n\n\n\n 6. Ayers JW, Poliak A, Dredze M, et al. \u201cComparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum\u201d. JAMA Intern Med. 2023;183(6):589\u2013596. doi:10.1001\/jamainternmed.2023.1838.<\/p>\n\n\n\n 7. Lekadir K, Frangi AF, Porras AR, et al. \u201cFUTURE-AI: international consensus guideline for trustworthy and deployable artificial intelligence in healthcare\u201d. BMJ. 2025;388:e081554. doi:10.1136\/bmj-2024-081554.<\/p>\n\n\n\n 8. Ji Z, Lee N, Frieske R, et al. \u201cSurvey of Hallucination in Natural Language Generation\u201d. ACM Comput Surv. 2023;55(12):Article 248, 1\u201338. doi:10.1145\/3571730.<\/p>\n\n\n\n 9. Omiye JA, Gui H, Rezaei SJ, Zou J, Daneshjou R. \u201cLarge Language Models in Medicine: The Potentials and Pitfalls: A Narrative Review\u201d. Ann Intern Med. 2024;177(2):210\u2013220. doi:10.7326\/M23-2772.<\/p>\n\n\n\n 10. World Health Organization. \u201cEthics and governance of artificial intelligence for health: WHO guidance\u201d. Geneva: World Health Organization; 2021. ISBN 978-92-4-002920-0.<\/p>\n\n\n\n 11. World Health Organization. \u201cEthics and governance of artificial intelligence for health: guidance on large multi-modal models\u201d. Geneva: World Health Organization; 2024. ISBN 978-92-4-008475-9.<\/p>\n\n\n\n 12. Bender EM, Hanna A. \u201cThe AI Con: How to Fight Big Tech\u2019s Hype and Create the Future We Want\u201d. New York: HarperCollins; 2025. Edizione italiana: \u201cL\u2019inganno dell\u2019intelligenza artificiale. Come resistere a Big Tech e costruire il futuro che vogliamo\u201d. Trad. Roberto Laghi. Roma: Fazi Editore; 2026.<\/p>\n\n\n\n 13. Lewis P, Perez E, Piktus A, et al. \u201cRetrieval-Augmented Generation for Knowledge-Intensive NLP Tasks\u201d. Adv Neural Inf Process Syst. 2020;33:9459\u20139474.<\/p>\n\n\n\n 14. Bender EM, Gebru T, McMillan-Major A, Shmitchell S. \u201cOn the Dangers of Stochastic Parrots: Can Language Models Be Too Big?\u201d In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT \u201921). 2021:610\u2013623. doi:10.1145\/3442188.3445922.<\/p>\n\n\n\n 15. Zadeh LA. \u201cFuzzy sets\u201d. Information and Control. 1965;8(3):338\u2013353. doi:10.1016\/S0019-9958(65)90241-X.<\/p>\n\n\n\n 16. Geirhos R, Jacobsen JH, Michaelis C, et al. \u201cShortcut learning in deep neural networks\u201d. Nat Mach Intell. 2020;2:665\u2013673. doi:10.1038\/s42256-020-00257-z.<\/p>\n\n\n\n 17. Dastin J. \u201cAmazon scraps secret AI recruiting tool that showed bias against women\u201d. Reuters. 10 ottobre 2018.<\/p>\n\n\n\n 18. Perry TS. \u201cLotfi Zadeh and the Birth of Fuzzy Logic\u201d. IEEE Spectrum. Giugno 1995; versione online successivamente aggiornata.<\/p>\n\n\n\n 19. U.S. Food and Drug Administration. \u201cArtificial Intelligence-Enabled Medical Devices\u201d. Elenco istituzionale aggiornato periodicamente.<\/p>\n\n\n\n 20. Eco U. \u201cApocalittici e integrati\u201d. Milano: Bompiani; 1964.<\/p>\n\n\n\n 21. Regolamento (UE) 2024\/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull\u2019intelligenza artificiale (Artificial Intelligence Act). Gazzetta ufficiale dell\u2019Unione europea, 12 luglio 2024.<\/p>\n\n\n\n 22. Legge 23 settembre 2025, n. 132. Disposizioni e deleghe al Governo in materia di intelligenza artificiale. Gazzetta Ufficiale della Repubblica Italiana, Serie generale n. 223, 25 settembre 2025.<\/p>\n\n\n\n 23. Gabanelli M, Priante A. \u201cCos\u00ec l\u2019Intelligenza artificiale \u00e8 usata per imbrogliare negli studi clinici\u201d. Corriere della Sera. 14 settembre 2026.<\/p>\n\n\n\n 24. Taloni A, Scorcia V, Giannaccare G. \u201cLarge Language Model Advanced Data Analysis Abuse to Create a Fake Data Set in Medical Research\u201d. JAMA Ophthalmol. 2023;141(12):1174\u20131175. doi:10.1001\/jamaophthalmol.2023.5162.<\/p>\n\n\n\n 25. Rumelhart DE, Hinton GE, Williams RJ. \u201cLearning representations by back-propagating errors\u201d. Nature. 1986;323:533\u2013536. doi:10.1038\/323533a0.<\/p>\n","protected":false},"excerpt":{"rendered":" Potenzialit\u00e0 e limiti dell\u2019IA Che cosa chiamiamo Intelligenza Artificiale, come funzionano i sistemi che apprendono dai dati e iGrandi Modelli Linguistici, che cosa possono fare in Medicina e quali sono i loro limiti. Introduzione...<\/p>\n","protected":false},"author":1,"featured_media":960,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"iawp_total_views":0,"footnotes":""},"categories":[6],"tags":[38],"class_list":["post-934","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-dettaglio","tag-intelligenza-artificiale"],"yoast_head":"\n
Grandi Modelli Linguistici, che cosa possono fare in Medicina e quali sono i loro limiti.<\/em><\/p>\n\n\n\n
\n\n\n![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image.png\")
<\/figure>\n<\/div>\n\n\nIntroduzione<\/h2>\n\n\n\n
L\u2019intelligenza artificiale non \u00e8 nata con ChatGPT<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-1.png\")
<\/figure>\n<\/div>\n\n\nChe cos\u2019\u00e8 l\u2019Intelligenza Artificiale<\/h2>\n\n\n\n
Dalla programmazione imperativa all\u2019apprendimento automatico<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-2.png\")
<\/figure>\n<\/div>\n\n\nChe cos\u2019\u00e8 una rete neurale<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-3.png\")
<\/figure>\n<\/div>\n\n\nIn che senso una rete neurale \u201cimpara\u201d?<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-4.png\")
<\/figure>\n<\/div>\n\n\nPerch\u00e9 l\u2019IA \u00e8 progredita cos\u00ec tanto negli ultimi anni<\/h2>\n\n\n\n
L\u2019IA in Medicina: non \u00e8 pi\u00f9 fantascienza<\/h2>\n\n\n\n
\n
\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-5.png\")
<\/figure>\n<\/div>\n\n\nGli LLM (Large Language Models)<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-6.png\")
<\/figure>\n<\/div>\n\n\nPerch\u00e9 gli LLM sono cos\u00ec utili<\/h2>\n\n\n\n
Un LLM non \u00e8 un database<\/h2>\n\n\n\n
Quanto possiamo fidarci dell\u2019IA?<\/h2>\n\n\n\n
Quando l\u2019LLM inventa la risposta: le “hallucination”<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-7.png\")
<\/figure>\n<\/div>\n\n\nQuando l\u2019IA impara la cosa sbagliata<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-8.png\")
<\/figure>\n<\/div>\n\n\nQuando il problema \u00e8 nei dati che forniamo<\/h2>\n\n\n\n
Quando l\u2019IA viene utilizzata per costruire intenzionalmente il falso<\/h2>\n\n\n\n
Perch\u00e9 pu\u00f2 essere difficile accorgersi dell\u2019errore<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-9.png\")
<\/figure>\n<\/div>\n\n\nCome ridurre il rischio<\/h2>\n\n\n\n
L\u2019IA capisce davvero quello che dice?<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-10.png\")
<\/figure>\n<\/div>\n\n\nE la creativit\u00e0?<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-11.png\")
<\/figure>\n<\/div>\n\n\nTra “apocalittici” e “integrati”<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-12.png\")
<\/figure>\n<\/div>\n\n\nLa posizione della WHO: utilizzare l\u2019IA, ma con precise regole<\/h2>\n\n\n\n
Il quadro normativo europeo e quello italiano<\/h2>\n\n\n\n
La FDA: l\u2019intelligenza artificiale \u00e8 gi\u00e0 nei dispositivi medici<\/h2>\n\n\n\n
L\u2019IA sostituir\u00e0 il medico?<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-13.png\")
<\/figure>\n<\/div>\n\n\nConclusioni (e una riflessione personale)<\/h2>\n\n\n\n
![\"\"](\"https:\/\/sipal.org\/wp-content\/uploads\/2026\/09\/image-14.png\")
<\/figure>\n<\/div>\n\n\n
Dipartimento di Scienze Cliniche e Medicina Traslazionale<\/em>
Universit\u00e0 degli Studi di Roma \u201cTor Vergata\u201d<\/em><\/p>\n\n\n\nBibliografia<\/h2>\n\n\n\n