To su samo neki od načina na koje umjetna inteligencija može transformirati znanstvenu komunikaciju i izdavaštvo. Znanstveni izdavači već eksperimentiraju s generativnom umjetnom inteligencijom u alatima za znanstveno pretraživanje te za uređivanje i brzo sažimanje radova. Mnogi istraživači smatraju da bi oni kojima engleski nije izvorni mogli imati najviše koristi od ovih alata. Neki vide generativnu umjetnu inteligenciju kao način na koji znanstvenici preispituju i sažimaju eksperimentalne rezultate u cjelini - mogli bi koristiti LLM kako bi obavili veći dio ovog posla, što znači manje vremena za pisanje radova i više vremena za provođenje eksperimenata.

Generativni alati umjetne inteligencije mogli bi iz temelja promijeniti prirodu znanstvenog rada. Ali avet netočnosti i neistina prijeti ovoj viziji. LLM-ovi su samo motori za generiranje stilski prihvatljivog izlaza koji odgovara obrascima njihovih inputa, a ne za proizvodnju točnih informacija. Izdavači se brinu da bi povećanje njihove upotrebe moglo dovesti do većeg broja rukopisa loše kvalitete ili grešaka - i moguće poplave krivotvorina potpomognutih umjetnom inteligencijom.

U nekim slučajevima, istraživači su već priznali korištenje ChatGPT-a za pomoć pri pisanju radova. Uhvaćeni su jer su zaboravili ukloniti izdajničke znakove njegove upotrebe, poput lažnih referenci ili unaprijed programiranog odgovora softvera da se radi o jezičnom modelu umjetne inteligencije.

Iako programeri komercijalnih LLM-ova rade na označavanju vodenim žigom izlaza generiranog LLM-a kako bi se mogli identificirati, nijedna tvrtka to još nije uvela za tekst. Svi vodeni žigovi također se mogu ukloniti. Postavlja se i pitanje etičkih i pravnih implikacije novih tehnologija.

Studija koja je ispitivala 100 izdavača i časopisa otkrila je da je do svibnja 17% izdavača i 70% časopisa objavilo smjernice o tome kako se može koristiti generativna umjetna inteligencija, iako su se razlikovale o tome kako se alati mogu primijeniti. Znanstvenici i urednici časopisa rade na razvoju jedinstvenog skupa smjernica koje će pomoći istraživačima da prijave svoje korištenje LLM-a.

LLM bi mogao biti blagodat i za recenzente, koji bi mogli prihvatiti više zahtjeva za recenziranje, koristeći LLM za usklađivanje svojih komentara.

Neki istraživači, međutim, tvrde da su LLM-ovi previše etički mračni da bi se uključili u proces znanstvenog objavljivanja. Glavna briga leži u načinu na koji LLM funkcionira: pretraživanjem internetskog sadržaja bez brige o pristranosti, pristanku ili autorskim pravima. Šire gledano, generativni AI alati imaju potencijal promijeniti način na koji se istraživanja objavljuju i šire.