Допустимо ли е AI да пише научни статии?

[mnogoznaiko]

Бързото развитие на изкуствения интелект променя начина, по който учените подхождат към писането на научни публикации. Въпросът дали е етично да използваме ChatGPT и други генеративни AI инструменти при създаването на изследователски статии вече не е хипотетичен. Той стои в центъра на дебати между издатели, учени и етици по целия свят.

Nature, един от най-престижните научни списания, проведе мащабно проучване сред над 5,000 изследователи, за да разбере къде стоят научните работници по този спорен въпрос. Резултатите показват изненадващо разделени мнения и пропаст между политиките на издателите и практиките на учените.

Проучването на Nature разкрива сложна картина на етичните възгледи в научната общност. Докато повече от 90% от анкетираните смятат за приемливо да използват AI за редактиране или превод на свои статии, мненията се разделят рязко при по-субстантивни приложения.

Когато става въпрос за генериране на текст с AI, около 65% от респондентите го считат за етично приемливо. Една трета обаче се противопоставя категорично на тази практика. Още по-голямо разделение се наблюдава при използването на AI за писане на различни секции от научни статии.

Интересното е, че мненията не се различават значително според географското местоположение, областта на изследване или кариерния етап на учените. Това предполага, че разделението е фундаментално и не може да бъде обяснено с културни или професионални различия.

Един от най-поразителните резултати е пропастта между теоретичните възгледи и практическото поведение. Въпреки че голяма част от учените одобряват определени употреби на AI, малцина действително го използват в своята работа.

Само около 28% от анкетираните съобщават, че са използвали AI за редактиране на свои статии. Още по-малко - около 8% - са го използвали за писане на първа чернова, създаване на резюмета или превод. Най-малък е процентът на тези, които са използвали AI за рецензиране - едва 4%.

Още по-тревожно е, че когато изследователите действително използват AI, те често не го декларират. Това създава въпроси за прозрачност и доверие в научната общност, особено когато повечето издатели вече изискват разкриване на AI използването.

Коментарите на участниците в проучването разкриват дълбочината на етичните съображения. От една страна, някои изследователи виждат AI като естествена еволюция на инструментите, подобно на калкулатора. Те смятат, че декларирането скоро ще стане ненужно.

От друга страна, критиците сравняват използването на AI с измама и плагиатство. Изследователи от области като науките за Земята категорично отхвърлят възможността да приемат AI в научното писане, наричайки го "жалко мамене и измама".

Средното мнение подчертава опасността от прекомерно разчитане на AI. Учени като Даниел Иган от Университета в Кеймбридж предупреждават, че използването на AI може да ни лиши от възможността да се учим чрез ангажиране с трудоемките процеси на писане и анализ.

При разглеждането на конкретни приложения се забелязват интересни тенденции. Повечето изследователи намират за приемливо използването на AI за писане на резюмета на статии, но са по-скептични към генерирането на други секции.

Рецензирането с помощта на AI е особено спорно. Над 60% от респондентите смятат за неприемливо генерирането на първоначален доклад за рецензия с AI. Въпреки това, 57% приемат използването на AI като помощно средство за отговаряне на въпроси относно ръкописи.

Тази нюансирана позиция показва, че учените правят разлика между различните степени на AI участие. Пълното заместване на човешкия анализ се счита за неприемливо, докато подпомагането на човешката преценка се толерира.

Проучването разкрива интересни глобални модели. Изследователи от страни, където английският не е първи език, са по-склонни да използват AI, особено за превод и редактиране. Това подчертава потенциала на AI да премахне езиковите бариери в науката.

Младите изследователи показват по-голяма склонност както към одобрение, така и към използване на AI, особено за редактиране на статии. Това предполага, че бъдещето може да донесе по-голямо приемане на AI технологиите в научното писане.

Много от участниците споделят практически опит с ограниченията на AI. Проблеми като фалшиви цитати, неточни твърдения и "добре формулирани глупости" са често срещани оплаквания. Качеството на AI отговорите варира значително в зависимост от конкретния инструмент и начина на използване.

Тези практически съображения предполагат, че дори при етично приемане, AI все още има значителни технически ограничения, които пречат на широкото му приемане в научните среди.

Резултатите от проучването на Nature показват, че научната общност все още търси своето отношение към AI. Разнообразието от мнения и относително ниската употреба предполагат, че сме в преходен период.

Издателите продължават да разработват политики, а учените експериментират с различни приложения. Консенсусът все още не е постигнат, но диалогът е започнал и ще продължи да формира бъдещето на научното публикуване.

Ясно е, че AI ще играе роля в научното писане, но границите на тази роля все още се определят. Успешната интеграция ще изисква баланс между иновацията и етичните принципи, които са в основата на научната интегритет.

Статията се основава на мащабно проучване на Nature сред над 5,000 изследователи от цял свят Is it OK for AI to write science papers? Nature survey shows researchers are split, което разкрива сложните етични въпроси около използването на изкуствения интелект в научното писане.

[mnogoznaiko]

Как AI генерира фалшиви здравни изследвания

Тревожен тренд в научната литература

В научната общност се разгръща истински скандал - изкуственият интелект се използва за масово производство на над 300 нискокачествени научни статии в областта на здравеопазването. Това откритие разкрива сериозна заплаха за истинността на научните изследвания и може да подкопае доверието в медицинската наука.

Мат Спик, статистик от Университета в Съри, започва да забелязва странно подобни статии, които се появяват ежедневно за рецензиране в списанието Scientific Reports - понякога дори по две статии на ден. Всички тези статии са използвали данни от Националното изследване за здраве и хранене на САЩ (NHANES) - публично достъпна база данни със здравна информация от над 130 000 американци.

Цифрите са шокиращи: между 2014 и 2021 г. се публикувани средно по 4 такива статии годишно, но през 2022 г. те стават 33, през 2023 г. - 82, а само за първите 10 месеца на 2024 г. - 190 статии.

Всички тези статии са следвали един и същи модел: избират едно здравословно състояние, един фактор от околната среда или физиологията, който би могъл да бъде свързан с него, и една популационна група. Например - връзката между нивата на витамин D и депресията при мъже над 65 години, или между лошото зъбно здраве и диабета при жени между 18 и 45 години.

"Видяхме внезапна експлозия в процентите на публикуване на статии, които са изключително формулни и които лесно биха могли да бъдат генерирани от големи езикови модели", казва съавторът на изследването Мат Спик.

Още един тревожен модел се появява в данните: 92% от статиите, публикувани след 2021 г., са с първи автор, свързан с китайска институция, в сравнение с едва 8% от статиите, публикувани преди 2021 г.

Това време на промяна съвпада с широкото разпространение на AI чатботи като ChatGPT, които могат да генерират четим текст от прости подкани и качена информация. Експертите подозират, че се използват "фабрики за статии" - комерсиални организации, които продават авторство на измамни или нискокачествени научни работи.

Когато екипът разгледа по-внимателно 28 от изследванията за депресия, базирани на NHANES данни, установи, че само 13 от резултатите са издържали статистическа корекция, която компенсира риска от фалшиво положителни резултати.

Много от статиите са използвали "повърхностен и опростен подход към анализа", често фокусирайки се върху една променлива, игнорирайки по-реалистичните, многофакторни обяснения на връзките между здравословните състояния и потенциалните причини.

"Видяхме нарастване на статии, които изглеждат научни, но не издържат на проверка - това е 'научна фикция', използваща национални здравни бази данни, за да се маскира като научен факт", предупреждава Спик.

Тенденцията заплашва да претовари някои списания и рецензенти, което може да намали "способността им да оценяват по-смислени изследвания - в крайна сметка отслабвайки качеството на науката като цяло".

Изследователите предлагат няколко мерки за справяне с кризата:

Предварителна регистрация на изследванията: Изисква изследователите да регистрират дизайна на своето изследване преди достъп до NHANES или подобни данни - правейки по-трудно манипулирането на резултатите за целите на публикуването.

По-строги стандарти за рецензиране: Списанията трябва да засилят проверките за качество и да внимават за формулни изследвания.

Прозрачност при използването на AI: Изследователите трябва да декларират използването на изкуствен интелект в своите работи.

"Вярваме, че в ерата на AI научното публикуване се нуждае от по-добри предпазни мерки. Нашите предложения са прости неща, които биха могли да помогнат да се спрат слабите или заблуждаващи изследвания, без да блокират ползите от AI и отворените данни", заключава Спик.

Решаването на проблема изисква координирани усилия от страна на изследователи, издатели, рецензенти и регулаторни органи.

Източници:

1. Основното изследване: Suchak, T. et al. (2025). "Explosion of formulaic research articles, including inappropriate study designs and false discoveries, based on the NHANES US national health database." PLOS Biology. DOI: 10.1371/journal.pbio.3003152
2. Nature News: Harrison, R. (2025). "AI linked to explosion of low-quality biomedical research papers." Nature. https://www.nature.com/articles/d41586-025-01592-0
3. Science Magazine: "Low-quality papers are surging by exploiting public data sets and AI." Science. https://www.science.org/content/article/low-quality-papers-are-surging-exploiting-public-data-sets-and-ai
4. Times Higher Education: "Flood of AI-assisted research 'weakening quality of science'." https://www.timeshighereducation.com/news/flood-ai-assisted-research-weakening-quality-science
5. Профил на водещия изследовател: Matt Spick, University of Surrey. https://www.researchgate.net/profile/Matt-Spick

[insighting]

Преди 17 часа, mnogoznaiko said:

Бързото развитие на изкуствения интелект променя начина, по който учените подхождат към писането на научни публикации. Въпросът дали е етично да използваме ChatGPT и други генеративни AI инструменти при създаването на изследователски статии

Не е допустимо, но AI може да извършва помощни задачи. Всеки учен описва собственото си изследване. 

[Чавдар]

Това е самата истина. От няколко години го наблюдавам този ефект. Работя почти 25 г. в една област и горе-долу все нещо съм научил. Правил съм експерименти, обработвал съм резултати. Все пак, периодично чета различни ревюта, защото все има нещо, което може да се научи. Ревю (обзорна публикация) по мое мнение трябва да се пише от хора с богат практически опит. Аз лично съм писал само едно ревю, в доста тясна подобласт, и то - наскоро. От няколко години попадам на ревюта, които са все от някакви азиатци, често индийци, които са с голям размер, пълна боза, но с хубави картинки. Интересното е, че съответните автори много често не са или почти не са работили като изследователи, защото нямат подобни публикации. Често са някакви младежи. Значи, не може да обобщаваш съвременното развитие на технологии, които явно практически никога не си използвал. Как става това, ако не е намесен AI?

Особено, ако публикациите не са в Scopus или WoS, вече масово се срещат подобни неща. Мои колеги също безогледно почнаха да ползват AI, най-често да им търси цитати или да превежда на английски. Аз си позволих преди време да поискам от AI да ми препоръча подходящи публикации във връзка с проблем, по когото работя и той ми даде няколко предложения. Само едно от пет или шест действително ми беше полезно и имаше отношение към заниманията ми. Аз, разбира се, си прочитам съответната публикация, дали и къде ще я цитирам - ще си реша. Но, тези колеги, които само пъхат цитати, давани им от AI, като в най-добрия случай са прочели само абстракта, извършват направо престъпление към науката. Други пък искат от него да им прави някакви обобщения или въведения (introduction), което е също толкова несериозно.

Обаче, накрая аз пускам една публикация, а те - пет. С фалшиви данни, грешки, но не им пука. Цитират се едни други и накрая се хабилитират. Това е трагедия, а тук може да прочетете нещо в този дух (въпреки, че не съм съгласен с всичко там):

https://www.facebook.com/piasachnik/posts/pfbid02T3DpEbU8rjB9oMb5YZjcDbYYN3F9jBs8FR8gpnXw1xXA4uQH7SbPUfCp87e9W7DGl

[Кибик]

Аз бях чел някъде, че индийските студенти са задължени да публикуват нещо в някой релевантен сайт за да се дипломират и после за да си намерят някаква работа, и заради това всеки гледа да чопне нещо оттук оттам само и само да има някакъв линк с негово име.

[makebulgar]

Изкуствения интелект е помогнал на Демис Хасабис да вземе през 2024 г. Нобелова награда по химия „за предсказване на структурата на протеини“, без да е химик. 

Хасабис е роден в Лондон в семейството на кипърски грък и сингапурска китайка. От детска възраст се занимава успешно с шахмат и с разработване на видеоигри. През 1997 година завършва информатика в Кеймбриджкия университет, след което отново работи върху видеоигри, като 1998 – 2006 година ръководи собствено студио. През 2009 година защитава докторат по когнитивна неврология в Лондонския университетски колеж. През 2010 година основава компанията за машинно самообучение „DeepMind“, която оглавява и след придобиването и от „Гугъл“ през 2014 година. От 2021 година оглавява и новосъздаденото подразделение на групата на „Гугъл“ „Изоморфик Лабс“, което си поставя за цел използването на изкуствен интелект в разработването на лекарства.

[insighting]

AI е гениален за писане на структурки, за създаване на приложения, но за ажурно плетиво никак го няма. Исках да ми даде идея как да си направя абажур. Получих страхотна схема за лесно плетиво с наметки, ама всичко стана на възли...

[Gravity]

Преди 37 минути, makebulgar said:

Изкуствения интелект е помогнал на Демис Хасабис да вземе през 2024 г. Нобелова награда по химия „за предсказване на структурата на протеини“, без да е химик. 

Това е различно. Това е подобно на използването на компютри за изчисления. Тук няма етични въпроси. Темата е за това дали и етично ИИ да прави наука, а не дали е етично учени да го използват като инструмент.

 

[makebulgar]

Ако ИИ води до развитие на науката, всичко би следвало да му е позволено. Да си пише статии на воля и да бъде използван както е най-добре от учените. Времето което може да им спести ще отделят за нови проучвания и така ще развиват науката ускорено. 

[Gravity]

Преди 17 минути, makebulgar said:

Ако ИИ води до развитие на науката, всичко би следвало да му е позволено. Да си пише статии на воля и да бъде използван както е най-добре от учените. Времето което може да им спести ще отделят за нови проучвания и така ще развиват науката ускорено. 

А, ако ИИ прави наука, а някой я публикува от свое име. Тогава етично ли е?

[makebulgar]

Преди 46 минути, Gravity said:

А, ако ИИ прави наука, а някой я публикува от свое име. Тогава етично ли е?

ИИ може да прави и наука и псевдо наука. Учения, който го използва е онзи, който в крайна сметка анализира всичко и го предлага във завършен вид като научна статия. Той задава и изходните задачи, по които да се работи. Така че напълно етично си е. Най-коректно ще е учения да опише методологията си на използдване на ИИ, така че всичко да бъде проверимо, но и да не го направи не е голям проблем, ако в крайна сметка има научна стъпка.  

[Gravity]

Преди 3 минути, makebulgar said:

ИИ може да прави и наука и псевдо наука. Учения, който го използва е онзи, който в крайна сметка анализира всичко и го предлага във завършен вид като научна статия. Той задава и изходните задачи, по които да се работи. Така че напълно етично си е. Най-коректно ще е учения да опише методологията си на използдване на ИИ, така че всичко да бъде проверимо, но и да не го направи не е голям проблем, ако в крайна сметка има научна стъпка.  

Не рабираш какво казвам. ИИ прави всичко, аз слагам моето име и пращам статията до списанието за публикация. Това етично ли е?

[makebulgar]

Преди 59 минути, Gravity said:

ИИ прави всичко, аз слагам моето име и пращам статията до списанието за публикация. Това етично ли е?

Е как така ИИ прави всичко, при положение, че ти си задал 1000 задачи и въпроси, за да генерира нещо ИИ. 

[mnogoznaiko]

Преди 3 часа, Gravity said:

Не рабираш какво казвам. ИИ прави всичко, аз слагам моето име и пращам статията до списанието за публикация. Това етично ли е?

Мисля, че е рано за подобен въпрос, при положение, че в момента ИИ е собственост на конкретни корпорации, а и за да свърши нещо, то трябва да му зададеш доста параметри над които да работи.

[Чавдар]

On 12.08.2025 г. at 14:35, makebulgar said:

Е как така ИИ прави всичко, при положение, че ти си задал 1000 задачи и въпроси, за да генерира нещо ИИ. 

Чак пък 1000?! Може и с много по-малко. Например, искаш да ти направи план на експеримента. Даваш го на лаборант или пък го изпълняваш лично. След това искаш да ти направи факторния анализ. Казваш да напише някакво въведение и да пъхне цитати. Пооглеждаш, пипаш тук-там и е готово. Ти може бъкел да не разбираш от факторен анализ, да не си запознат точно с типа на провежданите експерименти, но това няма значение - излиза нещо, което ще мине дори за Scopus или WoS (там нивото падна драстично през последните години). Може и да има нещо полезно в публикацията, а може и да няма. По този начин може да си правиш, стига да имаш нужната апаратура, по 1-2 публикации месечно. Ако пък е налице малък екип - още повече. Сладка работа, не иска мислене, разпределяте си задачите. Това, че нищо не разбирате и въобще не сте запознати дълбоко с материята не е проблем. Липсва ти някакъв тип изследване, нямаш нужната апаратура и не искаш да си платиш за него другаде - няма проблем, AI ще ти генерира достоверни резултати, диаграми и т.н. Златно време е да си в БАН сега...

[makebulgar]

Преди 17 минути, Чавдар said:

Чак пък 1000?! Може и с много по-малко. Например, искаш да ти направи план на експеримента. Даваш го на лаборант или пък го изпълняваш лично. След това искаш да ти направи факторния анализ. Казваш да напише някакво въведение и да пъхне цитати. Пооглеждаш, пипаш тук-там и е готово. Ти може бъкел да не разбираш от факторен анализ, да не си запознат точно с типа на провежданите експерименти, но това няма значение - излиза нещо, което ще мине дори за Scopus или WoS (там нивото падна драстично през последните години). Може и да има нещо полезно в публикацията, а може и да няма. По този начин може да си правиш, стига да имаш нужната апаратура, по 1-2 публикации месечно. Ако пък е налице малък екип - още повече. Сладка работа, не иска мислене, разпределяте си задачите. Това, че нищо не разбирате и въобще не сте запознати дълбоко с материята не е проблем. Липсва ти някакъв тип изследване, нямаш нужната апаратура и не искаш да си платиш за него другаде - няма проблем, AI ще ти генерира достоверни резултати, диаграми и т.н. Златно време е да си в БАН сега...

Нищо не разбираш от наука май. 

[Чавдар]

Преди 18 часа, makebulgar said:

Нищо не разбираш от наука май. 

Ако под "наука" разбираш "българска наука", може да приема твърдението ти дори като комплимент. Все пак, дали разбирам или не - това до голяма степен е субективно твърдение.

За да се премахне този субективизъм, съществува наукометриката. Няма да споменавам колко и какви наукометрични показатели имам до момента, ще се фокусирам върху текущата година.

Имам излезли 5 публикации, 4 от които в Scopus (1xQ2, 3xQ3). Две от публикациите са самостоятелни. До края на година очаквам да излезнат още ок. 3 публикации. Значи, говорим за ок. 8 публикации, поне половината в Scopus, около половината самостоятелни за тази година. Да, някои от тези публикации са подадени към списания миналата година, но и тази година ще подам в екип поне 2 публикации, които ще излезнат чак догодина. За да няма объркване, аз съм се фокусирал само върху неща, които ще излезнат през 2025 г. Става въпрос за активности в областта на техническите науки и физиката.

Разбира се, не само в световен план, но дори за някои наши научни звена, това не е нищо особено. Но, аз работя във ВУЗ, където приоритетно е обучението на студентите, т.е. голяма част от работното време е посветено на тях, а аз не си претупвам работата. Освен това, работя и нещо друго с втори трудов договор и отделно се наемам с частни проекти. Това, което ми позволява по-интезнивни "научни" дейности е липсата на семейство.

Ползвам AI само за една публикация, която довършвам в момента. Поисках да ми намери подходящи литературни източници, той ми предложи някои, но нито един не ми хареса и не го използвах. Иначе, си свалих някои от тях, ще ги проуча, не са лоши, но просто не пасват. Второто, понеже не съм математик, а има малко по-завързана математика в тази публикация, поисках AI при зададени входни данни да направи нужните изчисления и ги сравних с моите. Бяха едни и същи, като няколко пъти промених входните данни и винаги имаше съвпадение. Питах го как решава възложената задача, той спомена, че няма точен метод, използва някои оптимизации за премахване на някои от вариантите, за останалите използва методът "brute force". Затова и се бавеше леко. Аз бях стигнал до същите изводи, просто исках да проверя дали няма някакъв по-удобен пиниз, който не знаех, т.к. не съм математик.

И докато аз ползвам рядко и непряко AI, забелязвам как някои колеги, които до скоро си бъркаха в носа по цяла година, сега изведнъж започнаха да "творят" по-усърдно дори от мен. Като им разглеждам нещата, съм почти убеден, че 70-80% от работата е свършена от AI. Някои от тях, съвсем непринудено, докато си "пием кафето", без някой да ги е питал, се хвалят, че ползват много AI. Понякога успяват да пробият дори в Scopus-ки конференции, които се рецензират на местна почва, след което се изпращат до някое издание, видимо в Scopus. Някой ще пита - "И какво от това?". Ами това, че вече част от възнаграждението ще взима под внимание научната активност, участието в проекти се улеснява от наличието на добра наукометрика, академичният растеж и атестацииите също и т.н. Изведнъж хора, които са абсолютни профани, започват да изпъкват и да задават тренда... Затова, аз също почвам да се замислям дали да не влезна в този филм, защото ще си вдигна "производителността" поне с 50%. Или, ще запазя настоящата, без да се напъвам толкова. Вярно е, че и сега съм по-производителен от поне 70% от колегите, но това ми коства време и усилия.