Circa l'autore: Amy Brand è Direttrice ed Editore della MIT Press, ruolo che ricopre dal 2015. Scienziata cognitiva di formazione, ha conseguito il dottorato di ricerca al MIT e ha ricoperto ruoli dirigenziali presso CrossRef, Harvard e Digital Science. È co-creatrice della tassonomia CRediT, membro fondatore del consiglio di amministrazione di ORCID e produttrice del documentario "Picture a Scientist". Brand è ampiamente riconosciuta per il suo contributo alle infrastrutture di ricerca, alla comunicazione accademica e all'equità nella scienza. Tra i suoi riconoscimenti figurano il Council of Science Editors Award e l'AAAS Kavli Science Journalism Gold Award.
La scienza è essenziale per il progresso umano. Altrettanto essenziale, seppur meno evidente, è il modo in cui la divulghiamo. In quanto sistema attraverso cui la conoscenza diventa accessibile e credibile, l'editoria è una componente fondamentale dell'infrastruttura di ricerca.
Come dovrebbe adattarsi l'editoria per soddisfare le esigenze di una comunità di ricerca che si trova ad affrontare la censura, la riduzione dei finanziamenti e la rapida ascesa di sistemi di intelligenza artificiale generativa che sottraggono conoscenza, erodendone l'integrità? Avendo lavorato per decenni nella ricerca, nell'amministrazione universitaria e nell'editoria, non ho mai visto una posta in gioco così alta come oggi per il futuro della scienza. and comunicazione scientifica.
Con i sistemi socio-politici che ci circondano in rovina, è allettante considerare l'intelligenza artificiale generativa come la soluzione alchemica ai problemi del mondo. I modelli linguistici di grandi dimensioni (LLM) sono emersi come portali seducenti per la scoperta, fornendo risposte immediate, sintesi fluide e l'apparente democratizzazione della conoscenza. Eppure, il loro fascino nasconde la loro potenza come sistemi che accelerano anche la disinformazione, le frodi e la propaganda. Per loro natura, producono contenuti che sembrano altamente plausibili, ma sono spesso fuorvianti o semplicemente sbagliati. È pericoloso per la scienza quando la convalida è difficile e costosa, mentre la "verità" è economica e redditizia, soprattutto considerando quanto sia facile ingannare la mente umana.
Sì, vogliamo accelerare la scoperta e la risoluzione dei problemi di fronte alle angoscianti sfide globali. Vogliamo credere in macchine in grado di risolvere i problemi più rapidamente dell'architettura cognitiva umana o delle nostre istituzioni disfunzionali. Ma quando i sostenitori della formazione illimitata dell'IA sostengono che sia un imperativo morale rendere disponibili tutti i contenuti e i dati scientifici per accelerare l'innovazione, la storia consiglia cautela.
Lo abbiamo già visto. Internet, agli albori, è stata salutata come una forza democratizzante per l'espressione e la conoscenza universale. Alla fine, la mancanza di regolamentazione ha permesso a enormi piattaforme commerciali di dominare lo spazio, erodendo la fiducia e facendo crollare i modelli economici sia per i contenuti giornalistici che per quelli di ricerca. Ora sappiamo anche che politiche di open access poco elaborate hanno accelerato il consolidamento dell'editoria e creato incentivi economici a pubblicare di più con minori controlli di qualità.
Fermiamoci a riflettere su cosa sia meglio per la comprensione umana, l'apprendimento e il progresso della conoscenza. Quando la ricerca si limita a fornire riassunti basati sull'intelligenza artificiale e gli utenti non cliccano sulle fonti originali, e quando il semplice atto di leggere per piacere sta diminuendo drasticamente, come possiamo evitare un futuro in cui creiamo e pubblichiamo contenuti destinati esclusivamente al consumo automatico?
Credo che il ruolo fondamentale che gli editori svolgono nel sostenere l'impatto e l'integrità della ricerca meriti di essere preservato e protetto, soprattutto adesso. Capisco la frustrazione per le elevate tariffe di pubblicazione e i paywall degli abbonamenti, in particolare da parte dei grandi editori che hanno sfruttato un mercato per il prestigio accademico che storicamente non è stato sensibile al prezzo. Ma il nostro settore non è un'entità monolitica che cerca il profitto. Gli editori non-profit, come il MIT Press e molte società scientifiche, operano con valori diversi e margini più ridotti.
In effetti, siamo maggiormente minacciati dall'accaparramento di territorio da parte dell'IA e, a volte, persino dagli stessi movimenti per la scienza aperta che sosteniamo da tempo. Pertanto, dobbiamo resistere a posizioni morali che ignorano le dinamiche di potere in gioco. C'è un alone attorno all'idea di "apertura" che può oscurare complessità del mondo reale come l'economia e gli incentivi. In definitiva, non tutta l'apertura è virtuosa; non tutta la resistenza all'apertura è ostruzionistica.
Un altro equivoco è che gli interessi degli editori non siano allineati con quelli dei ricercatori. Recentemente abbiamo condotto uno studio ampia indagine sugli autori in tutti i settori STEM in merito all'uso non autorizzato del loro lavoro per la formazione LLM. La stragrande maggioranza si oppone a questa pratica, pur credendo che l'intelligenza artificiale prometta percorsi trasformativi per la scoperta e l'apprendimento. Si aspettano di poter acconsentire, o meno, a tale utilizzo e di essere riconosciuti quando il loro lavoro influenza i risultati LLM. Non equiparano "aperto alla lettura" con "aperto alla formazione".
Allo stesso modo, molti sono scettici sull'integrità delle grandi aziende di intelligenza artificiale e si preoccupano di come gli LLM influenzeranno l'editoria, la lettura, la scrittura, il pensiero critico e la creatività; appiattiranno i diversi punti di vista; e rafforzeranno pregiudizi ed egemonie culturali. Sono profondamente preoccupati per ciò che si perde quando scomponiamo opere di autori umani in dati di training tokenizzati e li inviamo in pasto a modelli che non riescono a preservarne il contesto o l'argomentazione.
La questione di come e in quali condizioni la scienza pubblicata venga utilizzata per formare gli LLM non riguarda solo il diritto d'autore. Riguarda chi controlla il futuro della conoscenza. Cediamo l'autorità a industrie opache ed estrattive, con scarsa responsabilità nei confronti della comunità scientifica? Oppure costruiamo sistemi che preservino l'attribuzione, l'integrità e la sostenibilità? Se prendiamo sul serio la prosperità umana, la scienza basata sull'evidenza e la tutela delle condizioni in cui la conoscenza cresce, allora la comunità scientifica e le sue istituzioni devono procedere con discernimento.
A chi giova cedere la scienza e la ricerca pubblicate a un settore tecnologico altamente estrattivo e opaco? Seguite la logica: tutto il valore delle commissioni di pubblicazione aperte pagate da autori, istituzioni e finanziatori viene poi in ultima analisi ceduto a enti come OpenAI e Anthropic. Quando si parla di industrie estrattive, dobbiamo anche essere onesti nel valutare il valore del settore dell'intelligenza artificiale rispetto a quello degli editori accademici.
Personalmente, resto ottimista sul fatto che, con un'attenta pianificazione e politiche basate sull'evidenza, utilizzeremo l'intelligenza artificiale per migliorare la revisione paritaria, aumentare la riproducibilità e semplificare i flussi di lavoro e i costi di pubblicazione. Potremmo persino essere in grado di sviluppare soluzioni che contribuiscano a sostenere gli aspetti positivi dell'editoria scientifica.
Ma l'attuale paradigma, in cui i dati pubblicati vengono estratti senza consenso e monetizzati da giganti tecnologici privati, è immorale e distruttivo per la scienza e la ricerca. Riflette anche un pensiero magico su come funziona il nostro mondo complesso e su come faremo progressi concreti nella risoluzione dei problemi esistenziali che ci troviamo ad affrontare.
Negazione di responsabilità
Le informazioni, le opinioni e le raccomandazioni presentate nei nostri guest post sono quelle dei singoli autori e non riflettono necessariamente i valori e le convinzioni del Consiglio Internazionale della Scienza.
Ricevi i prossimi riassunti sulla scienza aperta direttamente nella tua casella di posta: Iscriviti ora.
Foto di Martin Adams on Unsplash
Per saperne di più sul Forum ISC sulla pubblicazione e la valutazione della ricerca
Per saperne di più, leggi il riepilogo di Open Science: come mantenere l'apertura in un ecosistema di ricerca in continua evoluzione.
Per saperne di più, leggi il riepilogo di Open Science: l'infrastruttura nascosta dietro la riforma della ricerca.
Scopri di più su: Stiamo costruendo un'infrastruttura globale della conoscenza per il mondo in cui viviamo o per il mondo che stiamo cercando di creare?
