l'intelligenza artificiale

L’intelligenza artificiale e la falsa scienza

La pratica della scienza consiste nel cercare di scoprire cose sul mondo usando una logica rigida e testando ogni ipotesi. I ricercatori scrivono poi le scoperte più importanti in documenti e li sottopongono a una possibile pubblicazione. Dopo un processo di peer-review, in cui altri scienziati controllano che la ricerca sia valida, le riviste pubblicano i documenti per il pubblico.

Si può quindi ragionevolmente credere che gli articoli pubblicati siano abbastanza affidabili e rispondano a standard di alta qualità con smodin d.o.o. Ci si può aspettare piccoli errori che sono stati trascurati durante la revisione paritaria, ma non grandi errori. Dopotutto, si tratta di scienza!

Tuttavia, vi sbagliereste ad aspettarvi questo. La scienza vera e buona esiste, ma c’è anche una quantità preoccupante di ricerche fasulle. E negli ultimi anni, il loro volume è aumentato alla velocità della luce, come dimostra il numero vertiginoso di pubblicazioni ritrattazioni.

Scienza falsa

Una serie di pratiche minaccia attualmente di minare la legittimità della ricerca scientifica. Esse comprendono autori inventati, l’aggiunta di scienziati che non hanno nulla a che fare con un articolo come coautori e pratiche ancora più nefaste come l’ingolfamento delle riviste con invii di spazzatura di bassa qualità, scritta dall’intelligenza artificiale.

Questo processo è simile a un richiamo al supermercato. Se un prodotto venduto in precedenza è cattivo o pericoloso per qualche motivo, il negozio può decidere di ritirarlo e chiedere a tutti i clienti di non usarlo. Allo stesso modo, una rivista può richiamare un articolo pubblicato che, col senno di poi, si è rivelato fasullo.

Naturalmente, a volte i lavori vengono ritrattati perché gli autori hanno commesso un onesto errore nella loro ricerca. In più della metà dei casi, tuttavia, è a causa di una cattiva condotta accademica o di una frode. Fino a un decennio fa, questo tipo di comportamento era più o meno limitato ai ricercatori che falsificavano i dati sperimentali o alteravano i risultati per favorire la loro teoria. Tuttavia, più la tecnologia è diventata sofisticata, più le cose si sono complicate.

L’intelligenza artificiale per il reclutamento può essere oggettiva – se la progettiamo in modo responsabile.

Una soluzione semplice sarebbe quella di ignorare i documenti fasulli. Il problema, però, è che spesso sono difficili da identificare. Inoltre, una volta che un articolo viene ritrattato da una pubblicazione, questo infanga un po’ l’intera rivista. Se questo accade abbastanza spesso, il pubblico’la fiducia nella scienza nel suo complesso diminuisce. Pertanto, la comunità scientifica nel suo complesso deve prendere sul serio questo problema.

L’intelligenza artificiale

Una parte di questo problema è analogica. Camille non ha molto a che fare con l’IA, ma merita comunque una menzione. Nata nel marzo 2020, Noûs è già coautrice di oltre 180 pubblicazioni in campi diversi come l’astrofisica, l’informatica e la biologia.

Dico “è” perché Noûs non è una persona reale, bensì un artefatto inventato dal gruppo francese che sostiene la ricerca. RogueESR. Porta il nome di battesimo francese Camille, di genere neutro, e una fusione della parola greca antica “νοῦς”, che significa ragione o cognizione, e della parola francese “nous”, che significa “noi”.

Noûs è stato creato in risposta a una critica pesantemente nuova legge (fonte in francese) per riorganizzare la ricerca accademica in Francia. Sebbene l’obiettivo della legge fosse quello di rendere migliore la ricerca, i suoi critici pensano che il lavoro degli scienziati sarà ingiustamente precario e dipendente da finanziamenti esterni in base ai suoi requisiti. In particolare, il finanziamento che uno scienziato otterrà dovrà dipendere dai suoi precedenti risultati, sebbene la ricerca sia spesso uno sforzo comunitario.

Per rendere visibile questa preoccupazione, molti ricercatori hanno scelto di aggiungere il Nous come coautore.

Le riviste e i revisori paritari incaricati di controllare questi documenti non sempre sono stati informati del fatto che Noûs non è una persona reale.

Sebbene la parte di ricerca di tutti questi documenti sembri legittima, è preoccupante che si possa aggiungere così facilmente un coautore che non ha nemmeno una carta d’identità. Anche se mettere in evidenza gli sforzi comuni di autori come Noûs è un obiettivo onorevole, l’idea che si possano inventare scienziati dal nulla in questo periodo è piuttosto allarmante.

l'intelligenza artificiale

Aggiungere autori dove non ci sono con l’intelligenza artificiale

Evidenziare i difetti del sistema di peer-review e del mondo accademico non è però l’unico luogo in cui questo problema si manifesta. Soprattutto in articoli sull’IA, si sono moltiplicati i casi di false coautrici. Questo inganno comprende la pratica di aggiungere come coautore uno scienziato di alto profilo a sua insaputa o senza il suo consenso. Un altro modo per farlo è aggiungere un coautore fittizio, un po’ come Camille, ma con l’obiettivo di fingere una collaborazione internazionale o un discorso scientifico più ampio.

Oltre a dare l’illusione di una collaborazione internazionale, l’aggiunta di falsi autori con credenziali rispettabili può contribuire alla credibilità di un articolo. Molti scienziati cercano su Google i nomi degli autori prima di leggere un articolo o di citarlo nel proprio lavoro. Ma vedere un coautore proveniente da un’istituzione prestigiosa può indurli a dare un’occhiata più da vicino a un articolo, soprattutto se non è ancora stato sottoposto a peer-review. Il prestigio di un’istituzione può quindi funzionare come un indicatore di credibilità fino al completamento della revisione paritaria, che può richiedere molti mesi.

Non è chiaro quanti autori falsi siano stati aggiunti finora. Per prima cosa, alcuni scienziati potrebbero scegliere di ignorare il fatto che il loro nome è presente su un articolo che non hanno scritto, soprattutto perché il contenuto degli articoli in questione spesso non è terribile (anche se non eccezionale) e le azioni legali possono diventare troppo costose e lunghe. Inoltre, attualmente non esiste un metodo standard per verificare l’identità di uno scienziato prima della pubblicazione di un articolo. Questo dà agli autori falsi un lasciapassare.

Tutti questi problemi dimostrano la necessità di un qualche tipo di processo di verifica dell’identità. Attualmente non esiste nulla di formale, ed è un peccato. In un’epoca in cui ogni banca può verificare la vostra identità online e confrontarla con il volto della vostra webcam, la scienza non riesce nemmeno a proteggere i suoi collaboratori più preziosi dai truffatori.

Gli algoritmi producono cattivi articoli

Nel 1994, al fisico Alan Sokal venne la voglia di scrivere un articolo fasullo su qualche argomento legato alle scienze umane e di sottoporlo a una rivista. Esso è stato accettato, anche se nessuno, compreso l’autore stesso, ha capito cosa stesse dicendo. Questo non solo è ridicolo, ma dimostra anche quanto possano essere pigri i revisori paritari. In questo caso, hanno letteralmente accettato quello che era essenzialmente un articolo senza senso.

Su questa falsariga, nel 2005, un trio di studenti di informatica decise di sviluppare un programma per la gestione delle risorse umane. SCIgen come scherzo al mondo della ricerca. Questo programma sforna documenti completamente privi di senso, completi di grafici, figure e citazioni, conditi con molte parole d’ordine dell’informatica. All’epoca, uno dei loro articoli senza senso è stato accettato per una conferenza. Inoltre, nel 2013, 120 documenti sono stati ritrattati da vari editori dopo aver scoperto che SCIgen li aveva scritti.

Nel 2015, il sito contava ancora 600.000 visite all’anno.

Purtroppo, però, i documenti falsi non vengono generati solo per scherzo. Intere società guadagnano soldi scrivendo articoli strampalati e sottoponendoli a riviste predatorie che non rifiutano quasi nulla perché si fanno pagare per pubblicarli. Queste aziende, chiamate anche cartiere, stanno diventando sempre più sofisticati nei loro metodi. Sebbene anche l’individuazione delle frodi stia migliorando, gli esperti temono legittimamente che questi attori senza scrupoli, dopo aver affinato il loro mestiere prendendo di mira le riviste di bassa qualità, possano cercare di sommergere quelle vere. Questo potrebbe portare a una corsa agli armamenti tra le cartiere e le riviste che non vogliono pubblicare lavori fasulli.

Naturalmente c’è un’altra domanda all’orizzonte: per quanto tempo ancora gli esseri umani saranno gli unici a scrivere articoli di ricerca? È possibile che tra 10 o 20 anni gli algoritmi dotati di intelligenza artificiale siano in grado di vagliare automaticamente tutta la letteratura e di inserire le loro conclusioni in un nuovo documento che raggiunge i più alti standard di ricerca? Come daremo credito a questi algoritmi o ai loro creatori?

Oggi, però, abbiamo a che fare con una domanda molto più sciocca: Come possiamo identificare i documenti che sono stati scritti da algoritmi relativamente poco sofisticati e che non producono alcun contenuto sensato? E come affrontare il servizio clienti AI. A parte gli sforzi dei volontari e la costrizione degli autori fraudolenti a ritrattare i loro articoli, la comunità scientifica ha sorprendentemente poche risposte a questa domanda.

l’intelligenza artificiale: Agisci contro la falsa scienza

La maggior parte delle riviste con una buona reputazione da perdere ha almeno un processo di verifica di base dell’e-mail per i ricercatori che vogliono presentare un articolo. Qui, ad esempio, è il sistema di verifica della rivista Scienza. Ciononostante, la creazione di un indirizzo e-mail falso e l’esecuzione della procedura sono abbastanza facili. Questo tipo di frode si verifica ancora molto spesso, come dimostra il caso della quantità di di articoli che ogni anno vengono ritrattati anche da riviste prestigiose. Quindi, abbiamo bisogno di sistemi più forti.

Un buon approccio per verificare l’identità di uno scienziato è ORCID. In pratica, attraverso questo sistema, ogni ricercatore può ottenere un identificativo unico, che viene poi automaticamente collegato al suo curriculum. L’utilizzo di ORCID in tutti i processi di peer-review e di pubblicazione di una rivista renderebbe molto più difficile la creazione di un’identità falsa o l’utilizzo delle credenziali di un altro ricercatore a sua insaputa o senza il suo consenso. Sebbene si tratti di un’ottima iniziativa, nessuna rivista importante ha ancora reso obbligatori per tutti gli autori gli identificatori di ORCID o di altre fonti. È un peccato, a mio avviso, e qualcosa che potrebbe essere risolto abbastanza facilmente.

Infine, l’intelligenza artificiale potrebbe essere utile in questa lotta.

Alcune riviste sono impiegando Modelli di intelligenza artificiale per individuare i contributi falsi. Finora, tuttavia, le riviste non sono riuscite a concordare uno standard comune. Di conseguenza, le riviste che non hanno le risorse o le competenze necessarie non possono applicare le stesse misure di qualità delle pubblicazioni di livello superiore.

Questo allarga il divario percepito tra le riviste di alto e basso livello e, a mio avviso, è la prova evidente che le riviste di tutto il mondo dovrebbero riunirsi e trovare un modo per condividere le risorse per l’individuazione delle frodi. Naturalmente, le riviste di alto livello potrebbero trarre vantaggio dalla mancanza di concorrenza nel breve periodo. A lungo termine, tuttavia, un maggior numero di riviste con standard bassi potrebbe ridurre la fiducia nell’editoria scientifica nel suo complesso.

Tuttavia, non è che i ricercatori e le riviste scientifiche se ne stiano con le mani in mano invece di scovare gli autori fraudolenti. Le singole pubblicazioni lo fanno, in effetti, facendo molto per scovare i documenti falsi. Ma se alcune riviste hanno i mezzi e altre no, le pubblicazioni non operano in condizioni di parità. Inoltre, i truffatori saranno sempre in grado di prendere di mira qualche rivista sottofinanziata con i loro articoli falsi. Le riviste devono agire collettivamente per trovare un modo per rintracciare le cartiere e verificare l’identità di tutti i loro autori.

Oltre la scienza: Le notizie false stanno diventando più false

Se pensate che i contenuti falsi siano un problema limitato alla scienza, vi sbagliate. Solo pochi anni fa, durante l’apice dell’era Trump, “fake news” era la parola d’ordine della stagione. I metodi per generare contenuti per influenzare l’opinione pubblica sono diventati sempre più sofisticati da allora, e sono sorprendentemente simili a quelli dei falsi documenti scientifici.

Per esempio, falsi giornalisti erano gli apparenti autori di op-editoriali in varie testate conservatrici. Le loro foto di testa sono state generate con algoritmi di intelligenza artificiale. I loro account LinkedIn e Twitter sono completamente falsi e non è ancora chiaro chi ci sia realmente dietro questi articoli.

Ci sono anche diversi notizie false articolo generatori che rendono facile la creazione di titoli falsi. Anche se con questi contenuti non riuscirete a convincere un fact-checker esperto, potreste essere in grado di impressionare l’utente medio di Facebook tanto da convincerlo a condividere l’articolo.

Ecco perché io stesso tendo a fidarmi solo delle notizie e della scienza provenienti da fonti consolidate, o di contenuti che posso sottoporre a controlli incrociati sufficienti a determinare che sono veri. Ignoro completamente le altre fonti perché so che la maggior parte di esse va da “un po’ sbagliato” a “totalmente inventato”.

Qualche anno fa non avevo questo atteggiamento. E nemmeno le persone intorno a me. La fiducia nelle notizie si è erosa in modo drammatico e non ho idea di come potremo ripristinarla. Ora, quello che è già successo con le notizie sta succedendo con la scienza. È già abbastanza grave che sia difficile scoprire la verità su ciò che accade nel mondo. Ma se le fondamenta stesse della conoscenza umana si erodessero, sarebbe un disastro ancora più grande.

Sebbene il dibattito sulle fake news si sia spento dopo le elezioni del 2020, non è affatto finito. Poiché gli strumenti per falsificare i contenuti continuano a diventare sempre più sofisticati, credo che la conversazione si alimenterà ancora di più negli anni a venire. Si spera che per allora avremo raggiunto un consenso su come combattere i contenuti falsi. – e anche una falsa ricerca.

Slot Online
Slot Online
Slot Online
Slot Online
Slot Online
Slot Online
Slot Online
Slot Online
Slot online
https://desabukittinggi.id/
https://cerdasfinansial.id/
https://talentindonesia.id/
Slot Online
Slot Online
Slot Online
Slot Online
Slot Online
Slot Online

Di Redazione: Vincenzo Danna

Sviluppatore informatico freelance e web writer SEO, Vincenzo Dani produce regolarmente contenuti per il blog e il forum www.abruzzoscuoladigitale.it. La qualità del suo lavoro e l'unicità del suo background ci hanno spinto a presentarlo a voi.