GenAI: Intelligenza Artificiale Generativa

Algoritmi di IA in grado di generare automaticamente contenuti, e.g.:

• testo
• immagini
• audio e/o video
• codice [di programmazione]
• …

(cf. Policy per un uso etico e responsabile dell’Intelligenza Artificiale Generativa nelle attività di didattica e ricerca)

GenAI mediante Modelli Fondazionali (FM)

• Grosse reti neurali che imparano ad elaborare, “capire”, e produrre dati non [necessariamente] strutturati
• allenati su grandi quantità di dati, e con grandi risorse computazionali, a fare un po’ tutto
  • con l’idea di poterli poi specializzare per compiti specifici

Terminologia: Modelli Fondazionali vs. Large Language Models

Principali soluzioni tecnologiche

Categorizzate per tipo di interfaccia

• Conversazionali: e.g. ChatGPT, Claude, Scite
• Auto-completamento: e.g. GitHub Copilot
• Programmatiche: e.g. OpenAI Platform, Hugging Face
• In-App: e.g. Microsoft 365 Copilot
• Editing di audio-visivi: e.g. Suno, Runway

Lista non esaustiva!

Interfaccia conversazionale

• Interazione testuale che mima una corrispondenza (chat)
  • l’utente chiede, l’IA risponde reattivamente
• L’interfaccia permette l’inserimento di un prompt
  • opzionalmente contenente allegati (e.g. immagini, documenti)
• Le risposte sono contestuali
  • i.e., lo storico della conversazione impatta le risposte future
• La risposta contiene testo (spesso formattato)
  • opzionalmente: immagini, URL, codice

Talvolta…

• … prima di rispondere, l’IA fa una ricerca su Web
• importante per avere risultati aggiornati

Interfaccia basata su auto-completamento

• L’IA suggerisce un completamento per il testo inserito
  • e.g., codice, testo, URL
• L’utente accetta (anche in parte) o ignora il suggerimento
• Usato anche e soprattutto per codice di programmazione

Attenzione…

• … modello di costo ad abbonamento (vedi qui)
• … potenziali leak di informazioni sensibili
• … rischio di lock-in non trascurabile

Interfaccia programmatica

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(api_key="sk-1234567890abcdef1234567890abcdef")

async def main():
    stream = await client.chat.completions.create(
        model="gpt-4",
        messages=[
            dict(role="user",
                 content="European countries, one by line")
        ],
        stream=True,
    )
    async for chunk in stream:
        print(chunk.choices[0].delta.content or "", end=", ")

asyncio.run(main())

Output:

Albania, Andorra, Austria, Belarus, Belgium, Bosnia and Herzegovina, Bulgaria, Croatia, Cyprus, Czech Republic, Denmark, Estonia, Finland, France, Germany, Greece, Hungary, Iceland, Ireland, Italy, Kosovo, Latvia, Liechtenstein, Lithuania, Luxembourg, Malta, Moldova, Monaco, Montenegro, Netherlands, North Macedonia, Norway, Poland, Portugal, Romania, Russia, San Marino, Serbia, Slovakia, Slovenia, Spain, Sweden, Switzerland, Turkey, Ukraine, United Kingdom, Vatican City (Holy See),

• Linguaggio di programmazione che interagisce con IA

  • e.g., Python, JavaScript

• L’interazione rimane di tipo richiesta-risposta

  • il programma invia una richiesta, l’IA risponde

Abilitante per

• Prompt parametrici, risposte processate automaticamente

  • es. list of LOCALITIES in AREA, one by line
    • dove LOCALITIES $\in$ {cities, regions, states}
    • e AREA $\in$ {Europe, Asia, Africa, America, Oceania}
    • risultati ordinati alfabeticamente

• Scrittura software che usa l’IA come servizio

  • utile in industria come in ricerca

Attenzione…

• … modello di costo a consumo (vedi qui)
  • proporzionale al numero di token processati
  • prezzi variabili per modello

Interfaccia in-app

• GenAI integrata in applicazioni desktop o web

  • e.g., Microsoft Office (Word, Excel, Outlook)

• supporto per interfaccia conversazionale interna

  • conversazione intrinsecamente contestualizzata

• IA automatizza operazioni complesse (interne all’app)

  • e.g., scrittura di bozze
  • e.g., generazione di formule, grafici

Attenzione…

• … modello di costo ad abbonamento (vedi qui)
• … potenziali leak di informazioni sensibili
• … rischio di lock-in non trascurabile

Interfaccia per editing di audio-visivi (e.g. musica)

• Interazione one-shot per generare il contenuto

  • input: descrizione testuale del contenuto
  • output: contenuto

• L’interfaccia permette poi

  • riproduzione del contenuto
  • modifica del contenuto
    • e.g., taglio di parti, modifica di tonalità

Esempio

• “Canzona di Bacco” (Lorenzo il Magnifico, 1490), rock
  • https://suno.com/song/cce33ee7-a581-47ae-b9d1-806902e88e47

Principali modalità d’utilizzo

Categorizzate per ruolo di GenAI

GenAI come…

• … motore di ricerca: uso GenAI per ricercare informazioni
• … assistente di (ri)scrittura: uso GenAI per (ri)scrivere documenti
• … assistente di lettura: uso GenAI per acquisire informazioni da documenti
• … assistente per l’elaborazione dei dati: uso GenAI per elaborare dati
• … generatore di contenuti: uso GenAI per creare contenuti

Lista non esaustiva!

GenAI come motore di ricerca

Disclaimer

GenAI non è un motore di ricerca come Google, Bing, DuckDuckGo, etc.

GenAI come motore di ricerca

Razionale

Possiamo considerare FM come esperti su tematiche che:

• siano temporalmente consolidate $\implies$ diffidare di risposte su temi recenti
• siano relativamente popolari $\implies$ diffidare di risposte su temi di nicchia

GenAI come motore di ricerca

Consigli sempre validi

• verificare le fonti menzionate da GenAI

  • esistono davvero? sono aggiornate?

• verificare l’aderenza alle fonti

  • la fonte dice davvero quello che GenAI ha riportato?

• prediligere, se possibile, la lingua inglese

  • LLM sono stati sicuramente esposti a più testi inglesi che italiani durante l’allenamento

GenAI come motore di ricerca (pt. 2)

Uno strumento forse migliore (ma più costoso) in ambito accademico,
potrebbe essere Scite

• è un database bibliografico che indicizza le citazioni nel contesto (cf. “Smart Citation Index”)

  • citazioni classificate come supportive, mentioning, o contrasting
  • fonte: “Evaluating the Accuracy of scite, a Smart Citation Index”

• Fornisce un LLM, Scite Assistant ha accesso al database bibliografico

  • interfaccia conversazionale
  • riferimenti bibliografici eventualmente presenti nelle risposte vengono arricchiti con metadati
    • es. link all’articolo, evidenziazione del testo citato, etc.

Interfaccia di Scite Assistant

Esempio: esplorazione sull’argomento “Sistemi multi-agente”, con Scite

• Riferimenti bibliografici con ipertesti, e metadati
• Nella parte destra, sono riportati i dettagli dei riferimenti bibliografici

• Non fa davvero riferimento alle parole chiave menzionate in precedenza
• Bias di campionamento

GenAI come assistente di (ri)scrittura

Razionale

• Interrogare GenAI per generare testo da riusare verbatim è un approccio naïf
  • ci si affida in toto a GenAI, col rischio che sfuggano allucinazioni
  • si rischia di ereditare bias ed errori semantici senza accorgersene

GenAI come assistente di (ri)scrittura

Consigli sempre validi

• tenere il controllo di cosa si vuole dire nel testo
• farsi assistere riguardo alla forma del testo
• rivedere il testo prodotto per errori, incongruenze, allucinazioni
  • chiedere opportunamente variazioni fino a soddisfazione
• rivedere eventuali riferimenti a fonti o citazioni per aderenza
• chiedersi se non ci sia mancanza di informazioni o riferimenti importanti

Esempio: scrittura abstract di una SRL inerente “IA Neuro-Simbolica”, con ChatGPT

(un argomento complesso qualsiasi, scelgo un mio interesse di ricerca ho un metro di giudizio)

IA Neuro-Simbolica: la combinazione di metodi simbolici [“IA classica”, NdA] con metodi basati su reti neurali artificiali.

(cf. Neuro-symbolic artificial intelligence)

Una revisione sistematica della letteratura (SLR) è un metodo accademico indipendente che mira a identificare e valutare tutta la letteratura rilevante su un argomento al fine di trarre conclusioni sulla questione in esame. […] Viene seguito un approccio metodologico formale per ridurre le distorsioni causate da una selezione eccessivamente restrittiva della letteratura disponibile e per aumentare l’affidabilità della letteratura selezionata.

(cf. https://www.tu.berlin/en/wm/bibliothek/research-teaching/systematic-literature-reviews/description-of-the-systematic-literature-review-method)

GenAI come assistente di lettura

Razionale

• GenAI può essere usato per acquisire informazioni da documenti testuali [senza leggerli integralmente]

  • e.g., estrarre highlights da un testo, sintetizzare un testo, etc.

• La stessa idea si può applicare a contenuti multimediali

  • e.g., estrarre highlights da un video, trascrivere un audio, etc.

GenAI come assistente di lettura

Consigli sempre validi

• Al crescere della lunghezza del testo, aumenta la probabilità di allucinazioni

  • idem per durata dei contenuti multimediali

• Verificiare che il testo [o contenuto] fornito non contenga informazioni sensibili o riservate

• Verificare di avere il diritto di fornire a terzi [copie de] il contenuto

• Tenere presente la possibilità di inevitabili distorsioni

  • allucinazioni $\rightarrow$ l’estrazione potrebbe inventare informazioni non presenti nell’originale
  • lacune $\rightarrow$ elementi importanti portebbero non essere estratti

GenAI come assistente per l’elaborazione dei dati

Razionale

• GenAI può essere usato per elaborare dati, anche strutturati, semi-strutturati, o non strutturati

  • e.g., tabelle, dataset, etc.

• Vari tipi di elaborazione possibili, es:

  • (semplicifi) operazioni di aggregazione o filtraggio di dati
  • visualizzazione dei dati
  • creazione di (semplici) modelli predittivi
  • generazione di dati sintetici

• Si istruisce GenAI ad operare come un analista dati o un data scientist

  • fornendo i dati e le operazioni da eseguire, valutando i risultati

GenAI come assistente per l’elaborazione dei dati

Disclaimer

• LLM, di per loro, sono imprecisi e non affidabili per il calcolo e l’analisi di dati

  • specie al crescere del volume dei dati

• Tuttavia, FM posssono generare codice di programmazione (dietro le quinte) per elaborare i dati

  • compensando quindi la limitata capacità di analisi dei LLM

GenAI come assistente per l’elaborazione dei dati

Consigli sempre validi

• Prima di caricare dati, verificare che non contengano informazioni sensibili o riservate, e di avere il diritto di fornirli a terzi

  • escludere i dati dai futuri cicli di allenamento

• Fare richieste precise, chiare, e possibili (rispetto ai dati forniti)

  • riguardanti operazioni che in linea di principio comprendi e che potresti fare senza GenAI

• Non fidarsi ciecamente dei risultati, verificare che siano corretti

  • specie laddove siano svolti calcoli su dati numerici

• Chiedere il codice sorgente delle operazioni svolte, per verificarle, e renderle riproducibili

• Non delegare a GenAI operazioni che implichino punti di scelta e/o responsabilità

  • es. scelta di un modello predittivo, scelta di un’operazione di aggregazione o discretizzazione, etc.

Dichiarare / citare l’impiego di GenAI

Perché

• Trasparenza ed onestà — è giusto che i fruitori di un contenuto sappiano come è stato prodotto
• etica accademica — è giusto dare credito alle fonti
• accountability — è giusto che gli autori umani si prendano la responsabilità dell’impiego di GenAI

Dichiarare / citare l’impiego di GenAI

Quando dichiarare

Quando il contributo di GenAI è sostanziale al lavoro svolto

Esempi

• Produzione di contenuti originali

  • se la GenAI ha generato idee nuove o ha avuto un ruolo significativo nella scrittura di un documento
  • se ha contribuito alla formulazione di un’ipotesi di ricerca o ha suggerito nuove prospettive

• Analisi di dati con GenAI

  • se GenAI ha aiutato ad interpretare dati, fare sintesi o individuare pattern innovativi
  • se GenAI ha prodotto dati sintetici o aiutato a selezionare iper-parametri di modelli predittivi

• Generazione o rielaborazione di testi

  • se hai utilizzato la GenAI per scrivere una parte sostanziale del testo
  • se la GenAI ha parafrasato, riscritto o ampliato sezioni importanti

• Creazione di immagini, grafici, o contenuti audio/visivi

• Se richiesto da regolamenti, docenti o editori

  • alcuni docenti o riviste possono avere regole specifiche che impongono la dichiarazione dell’uso di GenAI

Dichiarare / citare l’impiego di GenAI

Quando non dichiarare

Quando il contributo di GenAI non è sostanziale, ma meramente di supporto

Esempi

• Ricerche preliminari e brainstorming

  • se hai usato la GenAI solo per raccogliere informazioni su un argomento, senza riportare testualmente i contenuti generati

• Correzioni grammaticali e stilistiche

  • se hai usato GenAI per migliorare la leggibilità, correggere errori grammaticali, o suggerire modifiche stilistiche.

• Traduzione di frammenti di testo

  • se la GenAI è stata usata per tradurre frasi o documenti, ma hai poi rivisto il testo manualmente

• Uso di GenAI come assistente personale

  • se hai utilizzato AI per riassumere articoli, fornire spiegazioni, o suggerire titoli, ma non hai riportato testualmente le sue risposte

A proposito di dichiarazioni

Queste slide sono state realizzate con l'aiuto di GitHub Copilot e ChatGPT.
Il primo è stato usato per velocizzare la stesura della prima bozza.
Entrambi sono stati usati per creare alcuni degli esempi e delle immagini qui presentate.
Ogni slide è stata rivista e verificata manualmente.
L'autore si prende la piena responsabilità per il contenuto di queste slide.