Autore:
Chiedete a qualsiasi responsabile delle politiche scientifiche o finanziatore della ricerca cosa ne pensi dell'intelligenza artificiale e riceverete una risposta ricorrente. L'IA sta trasformando il modo di lavorare degli scienziati. Sta velocizzando le revisioni della letteratura, elaborando set di dati su scale prima inimmaginabili e agevolando la stesura e la revisione dei manoscritti. È uno strumento di produttività straordinario e sempre più indispensabile.
Non è sbagliato. Ma potrebbe essere incompleto.
L'ossessione per l'intelligenza artificiale come strumento per gli scienziati (quella che potremmo definire la "visione ristretta" dell'IA in ambito scientifico) sta silenziosamente mettendo in secondo piano una serie di questioni ben più fondamentali. Questioni che la comunità di organizzazioni e istituzioni responsabili della governance, del finanziamento e del coordinamento della scienza a livello globale (quella che chiamerò scienza organizzata) ha appena iniziato a porsi.
Il dibattito dominante sull'intelligenza artificiale in ambito scientifico verte essenzialmente sull'accelerazione. L'IA può fare di più, più velocemente. Può individuare schemi nei dati che gli esseri umani non riuscirebbero a notare. Può redigere, tradurre e riassumere. Questi sono vantaggi concreti ed è giusto che la comunità scientifica vi presti attenzione.
Ma questa impostazione tratta implicitamente l'IA come qualcosa che gli scienziati uso, uno strumento sofisticato, non dissimile da un microscopio o da un sequenziatore, solo più versatile. E quando lo strumento è la cornice, certe domande diventano più difficili da porsi.
Cosa succede quando l'IA non si limita ad assistere nel processo di ricerca, ma comportamenti Cosa succede quando l'IA non solo elabora i dati, ma formula le ipotesi, progetta gli esperimenti e interpreta i risultati in modo più o meno autonomo? Non si tratta di uno scenario fantascientifico lontano. Ci sono esempi già pubblicati di sistemi di intelligenza artificiale in grado di generare nuove ipotesi scientifiche con un minimo intervento umano, e i principali sviluppatori di IA a livello mondiale descrivono la ricerca sull'IA completamente autonoma come una questione di anni, non di decenni.
Per riflettere con chiarezza su ciò che è in gioco, è utile distinguere tra due scenari generali.
Nel primo – scienza guidata dall'uomo L'intelligenza artificiale permea ogni fase del processo di ricerca, ma gli scienziati umani restano al comando. Sono ancora gli esseri umani a decidere cosa indagare, a definire l'agenda di ricerca, a formulare le domande e a determinare la direzione dell'indagine. Anche se la maggior parte della ricerca vera e propria viene svolta dall'IA, c'è sempre una mano umana al volante, che decide la direzione da prendere. Questa è più o meno la situazione attuale, sebbene il livello di coinvolgimento dell'IA stia crescendo rapidamente.
Nel secondo – Scienza guidata dall'intelligenza artificiale – L'IA non solo esegue la ricerca, ma decide anche cosa ricercare. L'agenda di ricerca stessa non è più stabilita solo dagli esseri umani. I sistemi di IA influenzano sempre più le domande che vengono poste, le ipotesi che vengono generate e gli esperimenti a cui viene data priorità, passando dall'esecuzione alla definizione dell'agenda. I progressi futuri, come l'inclusione dell'IA fisica e dei sistemi di laboratorio robotici, potrebbero approfondire ulteriormente questo cambiamento, consentendo ai modelli di partecipare direttamente alla sperimentazione, non solo all'analisi. Come ciò si concretizzerebbe nella pratica rimane davvero incerto. Ma è già stato suggerito che La scienza guidata dall'intelligenza artificiale potrebbe essere molto diversa da qualsiasi cosa conosciamo, potenzialmente in grado di cambiare non solo il ritmo della scienza, ma anche la sua logica sottostante: il ciclo di curiosità umana, congetture e progettazione sperimentale che ha definito la produzione di conoscenza per secoli.
È proprio nello spazio tra questi due scenari che risiedono le domande più interessanti.
Quando i sistemi di intelligenza artificiale sono in grado di condurre ricerche in modo autonomo, emergono una serie di questioni fondamentali che vanno ben oltre le linee guida etiche o le politiche di divulgazione. Tra queste:
L'intelligenza artificiale è in grado di generare conoscenze realmente nuove? La maggior parte dei modelli attuali viene addestrata su enormi quantità di conoscenza umana preesistente. Possono davvero ricavare nuove intuizioni sulla natura dell'universo o sono in definitiva sistemi sofisticati per ricombinare ciò che è già noto?
Che fine fa la scienza istituzionalizzata? Se la ricerca può essere condotta in modo semi-autonomo dall'intelligenza artificiale, significa forse che chiunque può effettivamente "essere" uno scienziato? L'università e l'istituto di ricerca, così come li conosciamo, rimarranno i principali luoghi di produzione della conoscenza? E in tal caso, il ruolo dello scienziato si sposterà sempre più verso la verifica, come il fact-checking, la replicazione e la validazione dei risultati prodotti dall'IA, piuttosto che verso la scoperta?
Come possiamo instaurare fiducia nella conoscenza prodotta dall'intelligenza artificiale? Nel corso dei secoli, la comunità scientifica ha sviluppato una serie di norme e meccanismi per la validazione della conoscenza: revisione paritaria, replicabilità, dati aperti, ecc. Questi sono stati concepiti per la scienza prodotta dall'uomo e potrebbero non essere altrettanto adatti alla scienza prodotta dall'intelligenza artificiale.
La scienza aperta sta forse inavvertitamente rafforzando la scienza del settore privato? Il passaggio all'accesso aperto e ai dati aperti è generalmente considerato un fatto positivo. Tuttavia, la crescente disponibilità di conoscenze scientifiche nel dominio pubblico implica anche che queste possano essere liberamente sfruttate dalle aziende tecnologiche commerciali per addestrare e migliorare i propri modelli di intelligenza artificiale. Ciò crea una potenziale tensione tra l'ideale della scienza come bene pubblico globale e il rischio di un nuovo sistema di generazione della conoscenza sempre meno responsabile nei confronti della comunità scientifica globale.
La scomoda realtà è che le organizzazioni e le istituzioni responsabili della governance della scienza sembrano essere in gran parte assenti da questo dibattito. Il sistema multilaterale si concentra, comprensibilmente, sull'etica e sulla governance dell'IA. I singoli enti finanziatori della ricerca e le università si concentrano sull'aggiornamento delle proprie politiche per un uso responsabile degli strumenti di IA. Si tratta di risposte necessarie alle pressioni immediate.
Ma le questioni più importanti sulla natura futura della scienza, sul ruolo futuro dei ricercatori umani, sul futuro della produzione di conoscenza come bene pubblico rimangono in gran parte inesplorate a livello istituzionale. Progetto Science Systems Futures Un progetto del Consiglio Internazionale per la Scienza (ISC) si propone di esaminare alcuni di questi fenomeni, esplorando come le tecnologie emergenti stiano rimodellando i sistemi scientifici nel Sud del mondo. Tuttavia, queste discussioni rimangono troppo rare.
Nel frattempo, l'intelligenza artificiale viene rapidamente adottata dai ricercatori sul campo, spesso ben prima di qualsiasi direttiva istituzionale. Ciò sta mettendo in luce una vera e propria discrepanza: i vertici della ricerca scientifica organizzata stanno ancora cercando di comprendere cosa sia l'IA e come potrebbe cambiare le cose, mentre sul campo la trasformazione è già in atto.
Per dirla senza mezzi termini, stiamo forse dormendo al volante?
L'argomento qui non è che possiamo o dovremmo rallentare l'adozione dell'IA nella scienza. Né è un invito alla disperazione. È un appello affinché la scienza organizzata guardi oltre l'immediato e adotti una prospettiva a lungo termine, chiedendosi non solo "come possiamo usare l'IA in modo responsabile oggi?", ma anche "che tipo di sistema scientifico vogliamo tra dieci o vent'anni e cosa serve per arrivarci?".
Ciò significa creare spazio per un diverso tipo di dialogo, un dialogo che riunisca esperti in grado di riflettere in modo rigoroso sull'incertezza, sul lungo percorso di produzione della conoscenza e sui limiti dei modelli attuali. Questi dialoghi si concentrerebbero meno sulle risposte di governance all'IA così come si presenta oggi, e più orientati verso la gamma di scenari futuri plausibili e su cosa significherebbe essere preparati ad affrontarli.
Significa anche garantire che la comunità scientifica, compresi i ricercatori e i responsabili politici, disponga degli strumenti concettuali per affrontare queste questioni come partecipanti informati, piuttosto che come soggetti di cambiamento. Questi strumenti includerebbero modelli per riflettere sul ruolo dell'IA, sull'epistemologia della conoscenza generata dalle macchine e sulle implicazioni a lungo termine per chi controlla l'agenda della ricerca.
La finestra di opportunità per anticipare questo fenomeno si sta restringendo. La scienza organizzata ha l'opportunità, e probabilmente anche la responsabilità, di plasmare il modo in cui l'IA trasforma la produzione di conoscenza, anziché limitarsi ad adattarsi a cambiamenti imposti interamente da altri.
Tutto inizia con il porsi le domande giuste. E per ora non le stiamo ponendo.
Foto di Igor Omilaev on Unsplash
Per saperne di più su Science Systems Futures 
Per saperne di più: La Pacific Academy of Sciences lancia la prima piattaforma di ricerca basata sull'intelligenza artificiale e il rapporto di valutazione della ricerca e sviluppo regionale Per saperne di più sulle tendenze emergenti che modellano le carriere scientifiche Per saperne di più su Call for consultants: Tecnologie che hanno un impatto sui sistemi scientifici | scadenza: 28 settembre 
